OpenAI scuote nuovamente il mondo dell’intelligenza artificiale. L’azienda di Sam Altman ha deciso lo scioglimento del suo team dedicato alla mitigazione dei rischi a lungo termine dell’IA, noto come “Superalignment team“. Il gruppo, istituito nel luglio del 2023, era stato creato per valutare la sicurezza e l’etica nell’uso dell’IA avanzata. Da alcune settimane, OpenAi ha però iniziato a reintegrare i membri del team in altri progetti e ricerche. Lo scioglimento del team dedicato alla sicurezza dell’IA, è avvenuto in seguito alle dimissioni del co-fondatore Ilya Sutskever e del co-leader del team Jan Leike in polemica con i vertici aziendali.
Leike: “Pensavo che OpenAI fosse il posto migliore al mondo”
Leike ha espresso pubblicamente il suo dissenso riguardo alle priorità dell’azienda, affermando che la sicurezza dell’IA è stata messa in secondo piano rispetto alla produzione di modelli più avanzati. In un post su X, ha condiviso le sue preoccupazioni e la delusione nel vedere la cultura della sicurezza trascurata. Ha enfatizzato la necessità urgente di comprendere come guidare e controllare sistemi di IA più intelligenti degli esseri umani.
“Sono entrato in OpenAI perché pensavo che fosse il posto migliore al mondo in cui condurre la mia ricerca. Tuttavia, sono stato in disaccordo con la leadership dell’azienda per molto tempo su quali dovessero essere le sue priorità, e ora abbiamo raggiunto il punto di rottura. Negli ultimi mesi, io e il mio team siamo andati controcorrente nella nostra stessa azienda. Negli ultimi anni, la cultura della sicurezza e i processi etici sono stati messi in secondo piano dai nuovi prodotti“.
“OpenAI deve diventare una società che mette al primo posto la sicurezza”, ha poi scritto Leike in un post su X invitando tutti i dipendenti di OpenAI ad “agire con la responsabilità” necessaria per quello stanno costruendo.
OpenAI non si ferma, via al nuovo ChatGPT e accordo con Reddit per l’addestramento
In un’intervista a Bloomberg, OpenAI ha confermato lo scioglimento del team di sicurezza dell’IA “Superalignment”. Il gruppo è stato sciolto mentre cresce l’attenzione delle autorità di regolamentazione. Intanto però la società di Altman non si ferma e ha recentemente lanciato una versione più avanzata del chatbot, che incorpora modalità multimodali, utilizzando non solo il testo ma anche la voce e i video. Sam Altman ha paragonato questa innovazione all’intelligenza artificiale presente nei film, citando il personaggio di Scarlett Johansson in “Her”.
Inoltre, OpenAI ha stretto una partnership con Reddit, la piattaforma di social news e forum, per utilizzare i contenuti della piattaforma nell’addestramento dei modelli di intelligenza artificiale come ChatGPT. Simile a un accordo precedente tra Reddit e Google, questa partnership permetterà a Reddit di offrire strumenti basati sull’IA agli utenti e ai moderatori, mentre OpenAI diventerà anche un partner pubblicitario della piattaforma.
OpenAI utilizza grandi volumi di testo per addestrare i suoi sistemi di intelligenza artificiale, spesso attingendo da dati online, compresi archivi di giornali. La società ha stretto accordi con diverse testate, come il Financial Times e l’Associated Press, per ottenere accesso ai loro contenuti, ma ci sono stati anche problemi legali: il New York Times e autori come George R. R. Martin e John Grisham hanno citato in giudizio OpenAI (e Microsoft) per violazione del copyright nell’uso non autorizzato dei loro materiali.
Altman: niente browser di OpenAI almeno per ora
Sam Altman ha anche smentito l’annuncio di Reuters di qualche giorno fa riguardante il lancio imminente di un browser basato su ChatGPT da parte di OpenAI. Ha chiarito la situazione tramite un post sui social network, confermando che non ci sarà né GPT-5 né un browser basato su ChatGPT al momento. Almeno per il momento. Infatti le sue dichiarazioni non smentiscono del tutto l’idea di un browser di OpenAI con ChatGPT integrato, anche se forse il progetto è solo rimandato a data da destinarsi.
