Caruselul în care a intrat OpenAI ar putea avea legătură cu o descoperire făcută de cercetătorii lui Sam Altman, cu doar câteva zile înainte de demiterea acestuia din funcţie.
Astfel, cercetătorii au aflat ceva foarte puternic, în materie de inteligenţă artificială, care ar putea să ameninţe omenirea.
O descoperire ameninţă omenirea. Are legătură cu Sam Altman şi cu firma Open AI
Înainte de cele patru zile de exilare a directorului general al OpenAI, Sam Altman, mai mulţi cercetători din cadrul personalului startup-ului au scris o scrisoare către Consiliul de Administraţie, în care avertizau asupra unei descoperiri puternice, în materie de inteligenţă artificială, despre care au spus că ar putea ameninţa omenirea.
Scrisoarea şi algoritmul de inteligenţă artificială au fost evoluţii-cheie, înainte de înlăturarea lui Altman, de către Consiliul de Administraţie, au spus cele două surse.
Scrisoarea a fost un factor dintr-o listă mai lungă de nemulţumiri ale Consiliului de Administraţie, care au dus la concedierea lui Altman, considerat copilul teribil al inteligenţei artificiale, printre care se numără preocupări legate de comercializarea progreselor, înainte de a înţelege consecinţele.
Citeşte şi: Ce fețe crezi că sunt umane și care au fost create cu Inteligență Artificială? Îngrijorarea crește
Înainte de revenirea sa triumfală, care a avut loc marţi seara, peste 700 de angajaţi au ameninţat că vor demisiona şi se vor alătura Microsoft, susţinătorul lui Altman, în semn de solidaritate cu liderul lor.
După ce a fost contactat de Reuters, OpenAI, care a refuzat să comenteze, a recunoscut într-un mesaj intern adresat personalului un proiect numit Q* şi o scrisoare adresată Consiliului înainte de evenimentele din weekend, a declarat una dintre persoane.
Un purtător de cuvânt al OpenAI a declarat că mesajul, trimis de Mira Murati, un director cu vechime, a alertat personalul cu privire la anumite articole din presă, fără a comenta acurateţea acestora.
Citeşte şi: Inteligența artificială va reduce o săptămână de muncă. Câte zile vom lucra în viitorul apropiat
Unele persoane de la OpenAI cred că Q* (pronunţat Q-Star) ar putea fi o descoperire, în căutarea de către startup a ceea ce este cunoscut sub numele de inteligenţă artificială generală (AGI).
OpenAI defineşte AGI ca fiind sisteme autonome ce depăşesc oamenii în majoritatea sarcinilor valoroase din punct de vedere economic.
Având în vedere resursele vaste de calcul, noul model a fost capabil să rezolve anumite probleme matematice, a declarat sub rezerva anonimatului o sursă citată.
Q Star
Cu toate că efectua doar calcule matematice la nivelul elevilor de şcoală primară, faptul că a reuşit astfel de teste i-a făcut pe cercetători să fie foarte optimişti cu privire la viitorul succes al Q*, a mai spus sursa.
Cercetătorii consideră că matematica este o frontieră a dezvoltării inteligenţei artificiale generative.
În prezent, inteligenţa artificială generativă este bună la scriere şi la traducerea limbilor străine, prin prezicerea statistică a următorului cuvânt, iar răspunsurile la aceeaşi întrebare pot varia foarte mult.
Capacităţi de raţionament
Dar cucerirea abilităţii de a face Matematică - unde există un singur răspuns corect - presupune că IA ar avea capacităţi mai mari de raţionament, asemănătoare cu inteligenţa umană.
Acest lucru ar putea fi aplicat de exemplu la cercetări ştiinţifice noi, consideră cercetătorii din domeniul IA.
Spre deosebire de un calculator, care poate rezolva un număr limitat de operaţii, AGI poate generaliza, învăţa şi înţelege.
În scrisoarea lor către Consiliu, cercetătorii au semnalat probele de inteligenţă artificială şi potenţialul pericol, au declarat sursele, fără a preciza care sunt îngrijorările exacte legate de siguranţă semnalate în scrisoare.
Pericol de maşini inteligente
Există de mult timp discuţii în rândul informaticienilor, cu privire la pericolul reprezentat de maşinile foarte inteligente, de exemplu dacă acestea ar putea decide că distrugerea umanităţii este în interesul lor.
Lucrurile par a se îndrepta spre un viitor asemănător din romanul SF "Dune", scris de englezul Frank Herbert, care prezintă un viitor în care umanitatea a ajuns o pleiadă de civilizaţii galactice.
Dar, într-un anumit moment (cam acesta în care suntem noi), maşinile inteligente au luat conducerea şi a avut loc un război lung şi sângeros, contra acestora.
Cea mai rapidă creştere din istorie
Semnatarii scrisorii OpenAI au semnalat de asemenea activitatea unei echipe de "cercetători în domeniul inteligenţei artificiale", a cărei existenţă a fost confirmată de mai multe surse.
Grupul, format prin combinarea echipelor anterioare de la "Code Gen" şi "Math Gen", explora modul de optimizare a modelelor de inteligenţă artificială existente, pentru a le îmbunătăţi raţionamentul şi, în cele din urmă, pentru a efectua lucrări ştiinţifice, a declarat una dintre persoane.
Altman a condus eforturile pentru a face din ChatGPT una dintre aplicaţiile software cu cea mai rapidă creştere din istorie şi a atras investiţiile necesare - şi resursele de calcul - de la Microsoft, pentru a se apropia de AGI, conform News.ro.
"Onoare profesională"
Pe lângă faptul că a anunţat o serie de noi instrumente, în cadrul unei demonstraţii, în această lună, Altman a anunţat săptămâna trecută, în cadrul summitului APEC din San Francisco, că, în opinia sa, se întrezăresc progrese majore.
"De patru ori în istoria OpenAI, cea mai recentă dată chiar în ultimele două săptămâni, am reuşit să fiu prezent în sală atunci când dăm la o parte vălul ignoranţei şi împingem frontiera descoperirii, iar a face acest lucru este o onoare profesională de neuitat", a declarat el la summitul APEC.
O zi mai târziu, Consiliul de Administraţie l-a concediat pe Altman.
