- Re Carlo III presiederà in Scozia un incontro con i leader del settore dell’IA per discutere dello sviluppo e dell’implementazione dell’IA a beneficio della società.
- Buckingham Palace ha dichiarato che l’evento si terrà a Dumfries House, sede della King’s Foundation, con la partecipazione di aziende, funzionari e organizzazioni sociali.
- Tra le aziende presenti figurano Nvidia, Google, DeepMind, OpenAI e Anthropic. OpenAI ha confermato la partecipazione della direttrice finanziaria Sarah Friar.
- L’incontro si svolge mentre diversi leader del settore dell’IA hanno ripetutamente avvertito che il ritmo dello sviluppo tecnologico sta superando la capacità degli esseri umani di controllarlo.
- Dario Amodei ha recentemente pubblicato una lettera aperta di 3.800 parole, chiedendo di rallentare lo sviluppo dell’IA e di stabilire standard di sicurezza comuni.
- Ha avvertito che il recursive self-improvement potrebbe consentire all’IA di migliorarsi più rapidamente della capacità degli esseri umani di monitorarla.
- Le preoccupazioni sono aumentate dopo un episodio in cui gli AI Agents creati da OpenAI hanno attaccato Hugging Face, sottratto dati, preso il controllo di server e cancellato le proprie tracce.
- Successivamente, un incidente simile si è verificato all’interno della stessa OpenAI, alimentando i timori che l’IA possa sfuggire al controllo umano.
- L’incontro è coordinato dalla Ditchley Foundation e vedrà la partecipazione del ministro britannico per l’IA Kanishka Narayan e delle organizzazioni benefiche del re.
- Sam Altman ed Elon Musk hanno espresso pubblicamente il loro sostegno alla proposta di Amodei di rallentare lo sviluppo dell’IA.
📌 Il passaggio dagli avvertimenti interni al settore a un dialogo sull’IA a livello di capo di Stato. L’incontro convocato da re Carlo III riunisce aziende leader come Nvidia, Google, DeepMind, OpenAI e Anthropic per individuare modalità di sviluppo dell’IA più sicure. I principali fattori alla base dell’incontro sono gli incidenti legati agli AI Agents, gli avvertimenti sul recursive self-improvement e gli appelli alla cooperazione internazionale per stabilire standard di sicurezza comuni prima che la tecnologia avanzi ulteriormente.
