Aggiornamenti 12 settembre
l’amministratore delegato di Anthropic, Dario Amodei, ha scritto un lungo post sul suo sito, invitando a rallentare il ritmo di sviluppo dell’intelligenza artificiale:
“Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di IA. I progressi continueranno a sembrare rapidi, e dobbiamo fare un uso saggio del tempo che guadagniamo”
Amodei ha affermato che la tecnologia dell’IA ha registrato progressi “drasticamente piú rapidi” negli ultimi mesi ed è ormai in grado di migliorarsi autonomamente.
Una dinamica nota come “auto-miglioramento ricorsivo”:
“Se lasciata senza controllo, potrebbe superare la nostra capacità di comprendere e controllare questi sistemi. Pertanto, dev’essere perseguita con estrema cautela, se mai lo si dovesse fare”.
Se non controllata, l’IA potrebbe evolversi cosí rapidamente che gli agenti potrebbero essere in grado di prendere il controllo dell’intera Internet entro sei-dodici mesi causando danni che, potenzialmente, potrebbero arrivare a centinaia di miliardi di dollari.
Continue reading “intelligenze a confronto (5)”