OpenAI, compania care a lansat chatbotul de inteligenţă artificială (AI) generativă ChatGPT, a încheiat un acord cu guvernul american care prevede accesul la modelele sale de limbaj înainte de lansarea acestora, în special în vederea identificării unor posibile riscuri, informează AFP, potrivit Agerpres.
Modelele de limbaj sunt programe informatice care permit generarea, după caz, a unor texte, imagini sau sunete în urma unei cereri formulate în limbaj comun, aşa cum este şi cazul programului ChatGPT.
AI Safety Institute (Institutul pentru siguranţa inteligenţei artificiale), organism creat în 2023 de administraţia lui Joe Biden, a încheiat aceeaşi convenţie şi cu unul din marii concurenţi ai Open AI, Anthropic, potrivit unui comunicat publicat joi.
Cele două start-up-uri şi-au luat angajamentul de a colabora cu institutul în scopul „evaluării capacităţilor (modelelor) şi riscurilor de securitate”, precum şi de a lucra „la metode pentru gestionarea acestor riscuri”, a precizat AI Safety Institute.
„Aceste acorduri sunt doar un început, dar marchează o etapă importantă în vederea orientării spre o abordare responsabilă a viitorului AI”, a declarat Elizabeth Kelly, directoarea institutului, citată într-un comunicat.
Modelele Lingvistice Mari (LLM) îşi sporesc în continuu capacităţile, dar şi riscurile asociate, în special în caz de utilizare cu rea intenţie.
„Un AI sigur şi fiabil este determinant pentru ca această tehnologie să poată avea un impact pozitiv”, a explicat pentru AFP Jack Clark, cofondatorul Anthropic.
„Colaborarea noastră cu Institutul se va baza pe experienţa lor referitoare la testarea cu rigoare a modelelor noastre înaintea unei implementări pe scară largă”, a mai spus el.
Foto: © Irinayeryomina | Dreamstime.com / Dreamstime.com sprijină educaţia din România şi oferă gratuit imagini stock prin care Edupedu.ro îşi poate ilustra articolele cât mai relevant posibil / Campania Back to school oferă posibilitatea oricărei școli, profesor sau elev să descarce imagini de calitate cu 50% discount.