O mână de angajați și foști angajați de la firme de top din Silicon Valley, inclusiv OpenAI și DeepMind de la Google, au lansat un avertisment serios într-o scrisoare deschisă - informează Bloomberg. Aceștia susțin că, fără măsuri de siguranță suplimentare, inteligența artificială (AI) ar putea ajunge să amenințe chiar și existența umană.
Scrisoarea, semnată de 13 persoane, subliniază că dezvoltatorii de AI au nevoie de protecții mai puternice pentru a putea critica liber noile evoluții și pentru a include opinia publicului și a decidenților politici în direcția pe care o ia această tehnologie. „Credem în potențialul AI-ului de a aduce beneficii uriașe omenirii, dar suntem conștienți și de riscurile serioase,” se arată în document. Riscurile menționate includ adâncirea inegalităților, manipularea informațiilor și pierderea controlului asupra sistemelor autonome de AI.
Companiile care dezvoltă AI avansat, inclusiv inteligența artificială generală (AGI), au un interes financiar puternic de a evita supravegherea eficientă, afirmă semnatarii. Neel Nanda, un cercetător de la DeepMind, este singurul angajat actual al unei firme semnatare și a declarat că susține necesitatea unor drepturi solide și protejate pentru angajați de a semnala problemele.
OpenAI a fost recent implicată într-un scandal legat de angajații care pleacă, fiind forțați să aleagă între a pierde acțiunile sau a semna acorduri de nedisparajare. Compania a renunțat ulterior la această cerință, afirmând că „nu reflectă valorile noastre”. Un purtător de cuvânt al OpenAI a declarat că firma susține dezbaterea riguroasă și se angajează să colaboreze cu guverne și alte comunități pentru a asigura dezvoltarea responsabilă a AI.
Aceste avertismente vin într-un moment tumultuos pentru industria AI, cu numeroase controverse și schimbări interne la firme de top precum OpenAI. Cu toate acestea, companiile promit să continue eforturile pentru a asigura că tehnologia este dezvoltată în mod sigur și responsabil.
