El exinvestigador de Anthropic AI Jacob Coxon comparó el desarrollo de modelos avanzados de inteligencia artificial con “invitar a una mente alienígena al planeta”. Sostuvo que se están creando sistemas con capacidades humanas o sobrehumanas sin comprender por completo sus objetivos, pensamientos o formas de razonamiento.
Coxon pidió al Congreso de Estados Unidos que permita a los principales laboratorios de IA de vanguardia autorregularse mientras se desarrolla un marco legal de largo plazo. “En mi opinión, lo mejor sería insistir en que los laboratorios actuales se autorregulen”, declaró a NBC News, y agregó que los responsables de estas compañías han expresado que desean avanzar con cautela.
“Interruptor de emergencia”
El exinvestigador también advirtió que algunas propuestas legislativas podrían quedar obsoletas rápidamente debido a la velocidad de evolución de los modelos. Entre las medidas mencionadas está la creación de un “interruptor de emergencia” nacional para detener sistemas que superen los límites del control humano. Coxon afirmó que esta herramienta podría funcionar actualmente, aunque requeriría numerosos interruptores si los sistemas estuvieran distribuidos en distintos centros de datos.
Coxon señaló que el mecanismo podría dejar de ser efectivo ante escenarios más complejos. “Existe la posibilidad de que muy pronto el interruptor de seguridad simplemente ya no funcione porque un enjambre podría haber iniciado una campaña de pirateo en toda Internet”, afirmó, al referirse a un escenario planteado por el director ejecutivo de Anthropic AI, Dario Amodei.
En ese sentido, el exinvestigador sostuvo que cualquier legislación nacional sobre inteligencia artificial tendría que ser flexible y adaptarse a los nuevos modelos. “Es un esfuerzo continuo para garantizar que cada nueva mente que creamos esté, en cierto modo, debidamente limitada”, afirmó.
(Información de RT Noticias).
