E-Mail: [email protected]
- OpenAI ha formato un comitato per la sicurezza, composto da membri del Consiglio di Amministrazione e esperti esterni.
- Il comitato deve sviluppare salvaguardie entro 90 giorni e presentare le raccomandazioni al Consiglio.
- Nuovo modello di IA in fase di addestramento, potenzialmente denominato ChatGPT-5, con capacità avanzate verso l'AGI.
OpenAI ha recentemente annunciato un significativo passo avanti nella sicurezza dei suoi sistemi di intelligenza artificiale generativa, confermando lo sviluppo di un nuovo modello all’avanguardia. L’azienda ha formato un comitato per la sicurezza, composto da membri del Consiglio di Amministrazione, tra cui l’amministratore delegato Sam Altman, Bret Taylor, Adam D’Angelo e Nicole Seligman. Altri componenti includono Jakub Pachocki, capo scienziato di OpenAI, e Matt Knight, responsabile della sicurezza. Il comitato si avvarrà della consulenza di esperti esterni in sicurezza.
Il primo compito del comitato sarà valutare e sviluppare processi e salvaguardie entro i prossimi 90 giorni. Al termine di questo periodo, il comitato presenterà le sue raccomandazioni al Consiglio di Amministrazione completo. Dopo la revisione del Consiglio, OpenAI renderà pubbliche le raccomandazioni adottate, in linea con gli standard di sicurezza.
Questa iniziativa arriva in seguito alla chiusura, all’inizio di maggio, del team di OpenAI dedicato al “superallineamento”, istituito per trovare soluzioni che permettano agli esseri umani di mantenere il controllo sui servizi di intelligenza artificiale generativa, che potrebbero superare le capacità umane.
Nel blog di OpenAI, l’azienda ha confermato di aver iniziato ad addestrare il suo prossimo LLM (Large Language Model). Sebbene il nome del modello non sia stato ufficializzato, si presume che possa essere battezzato ChatGPT-5, anche se la numerazione potrebbe essere abbandonata. OpenAI ha affermato che questo modello “ci porterà al livello successivo di capacità nel percorso verso l’AGI” (Intelligenza Artificiale Generale).
OpenAI avvia l’addestramento di una nuova intelligenza artificiale
OpenAI ha iniziato l’addestramento di un nuovo modello di intelligenza artificiale destinato a sostituire GPT-4, la versione attuale che guida ChatGPT. La startup di San Francisco, una delle principali aziende di intelligenza artificiale, spera che la nuova AI possa portare ulteriori passi avanti nella creazione di una “intelligenza artificiale generale”, una macchina capace di fare tutto ciò che può fare un cervello umano.
Il nuovo modello sarà il motore di una nuova serie di prodotti di intelligenza artificiale, tra cui chatbot, assistenti digitali simili a Siri di Apple, motori di ricerca e generatori di immagini. Ci sono rumor su un possibile accordo tra OpenAI e Apple, che potrebbe essere annunciato alla prossima conferenza degli sviluppatori di Apple a giugno.
OpenAI ha creato un comitato del consiglio di amministrazione per valutare la sicurezza dei modelli di intelligenza artificiale, un cambiamento di governance avvenuto settimane dopo le dimissioni del massimo dirigente e lo scioglimento del team interno. La decisione arriva due giorni dopo che due ex membri del consiglio di amministrazione di OpenAI hanno chiesto ai governi di intervenire nello sviluppo della tecnologia AI, considerata troppo potente per essere lasciata nelle mani delle sole aziende private.
OpenAI, originariamente fondata come no-profit, ha cercato di rimanere tale costituendo un’entità separata per generare profitti. L’idea era di raccogliere capitali mentre la parte no-profit dell’organizzazione rimaneva in carica. Tuttavia, questo modello non ha funzionato come previsto.
OpenAI ha iniziato a lavorare sul successore di GPT-4: ecco cosa sappiamo
OpenAI ha creato un nuovo comitato per la sicurezza e ha iniziato a lavorare alla formazione del prossimo modello di IA, come annunciato in un post sul blog. Questo rappresenta una rara visione dell’atteso successore di GPT-4, la tecnologia che alimenta ChatGPT. Mentre le aziende tecnologiche corrono per produrre strumenti IA efficaci, OpenAI ha iniziato l’addestramento di un “modello di prossima frontiera”, che prevede di fornire agli utenti un “prossimo livello di capacità” per costruire l’intelligenza artificiale generale (AGI), una forma di IA capace di svolgere un’ampia gamma di compiti come gli esseri umani.
Il nuovo chatbot sostituirà il modello fondamentale di OpenAI, GPT-4, e alimenterà strumenti di IA generativa come generatori di immagini, assistenti virtuali, motori di ricerca e chatbot di punta come ChatGPT. OpenAI ha creato un nuovo comitato per valutare i rischi derivanti dalla nuova tecnologia, guidato dall’amministratore delegato e cofondatore Sam Altman, e tre membri del consiglio di amministrazione dell’azienda: Bret Taylor, Adam D’Angelo e Nicole Seligman. Sei esperti tecnici e politici di OpenAI – Aleksander Madry, Lilian Weng, John Schulman, Matt Knight e Jakub Pachocki – faranno parte del comitato, che si consulterà anche con altri esperti di sicurezza tecnici per sostenere il lavoro.
Il primo compito del comitato sarà rivedere e sviluppare processi e misure di salvaguardia dell’azienda nei prossimi 90 giorni, e condividerà le raccomandazioni con l’intero consiglio di amministrazione. L’azienda non ha dichiarato il nome del modello che sta addestrando, ma ha seguito una chiara sequenza di nomi per i modelli fondamentali, sotto forma di variazioni numericamente crescenti di GPT. L’ultimo chatbot è GPT-4, e il prossimo modello dovrebbe avere la denominazione ‘GPT-5’. OpenAI prevede di rilasciare un aggiornamento di GPT-5 nei prossimi mesi, di fronte alla concorrenza intensa di modelli rivali come Llama 3 di Meta, Gemini di Google e Claude 3 di Anthropic.
La prova di GPT-4o, Project Astra e alcune considerazioni
Il recente aggiornamento di GPT-4, denominato GPT-4o, ha introdotto nuove funzionalità come modalità vocale, permettendo al modello di agire come assistente digitale simile ad Alexa di Amazon o Siri di Apple. Tuttavia, OpenAI è finita sotto tiro per aver utilizzato una voce simile a quella dell’attrice Scarlett Johansson per i suoi assistenti virtuali senza permesso.
Durante il Google I/O, sono state mostrate le prime prove tecniche di un motore di ricerca potenziato con l’AI, denominato Overview AI, e il futuro con Project Astra. Questi sviluppi rappresentano un aggiornamento importante per chi si occupa di intelligenza artificiale e deve conoscere le ultime innovazioni.
Bullet Executive Summary
OpenAI sta facendo passi significativi per garantire la sicurezza dei suoi sistemi di intelligenza artificiale generativa, con la formazione di un nuovo comitato per la sicurezza e l’inizio dell’addestramento di un nuovo modello di IA, presumibilmente ChatGPT-5. Questo modello promette di portare l’azienda al livello successivo nel percorso verso l’Intelligenza Artificiale Generale (AGI). La creazione del comitato per la sicurezza e l’addestramento del nuovo modello rappresentano un momento cruciale per OpenAI, che cerca di placare le critiche e dimostrare il suo impegno verso la sicurezza e l’innovazione.
*Nozione base di intelligenza artificiale: L’intelligenza artificiale generale (AGI) è una forma avanzata di IA che mira a replicare la capacità umana di comprendere, apprendere e applicare conoscenze in una vasta gamma di compiti. A differenza dell’intelligenza artificiale ristretta, che è progettata per compiti specifici, l’AGI ha il potenziale di eseguire qualsiasi compito intellettuale che un essere umano può fare.
Nozione avanzata di intelligenza artificiale:* Un concetto avanzato correlato è il “superallineamento”, che riguarda lo sviluppo di tecniche e strategie per garantire che i sistemi di intelligenza artificiale rimangano sotto il controllo umano e operino in modo sicuro e conforme agli obiettivi umani, anche quando le loro capacità superano quelle umane. Questo è particolarmente rilevante nel contesto dell’AGI, dove il rischio di perdita di controllo è più elevato.
In conclusione, il progresso di OpenAI nel campo dell’intelligenza artificiale è affascinante e promettente, ma richiede una riflessione attenta e continua sulla sicurezza e l’etica. La creazione di un comitato per la sicurezza e l’addestramento di nuovi modelli avanzati sono passi importanti in questa direzione. Invitiamo i lettori a riflettere su come queste innovazioni potrebbero influenzare il futuro e la nostra vita quotidiana.
- Pagina ufficiale di OpenAI sul nuovo comitato per la sicurezza e la sicurezza
- Sito ufficiale di OpenAI, pagina del team di sicurezza che si occupa di valutare e sviluppare processi e salvaguardie per garantire la sicurezza dei sistemi di intelligenza artificiale generativa.
- Sito ufficiale di OpenAI, pagina dedicata al modello GPT-4, dove sono disponibili informazioni approfondite sulle funzionalità e le caratteristiche del modello