Un exinvestigador de Google DeepMind sumó su voz a las crecientes advertencias sobre la Inteligencia Artificial General (IAG), alertando sobre el riesgo real de la extinción humana si no se establecen regulaciones urgentes.
Bilal Chughtai, quien se desempeñó como especialista en seguridad y alineación de IA en la división tecnológica de Google desde 2022 hasta su renuncia en julio pasado, manifestó su profunda preocupación por la velocidad a la que avanza la industria, la cual supera con creces la capacidad técnica de control actual.
Lea también: Adiós a un héroe de cuatro patas: Fallece Quino, el perro rescatista español que salvó vidas en La Guaira
«En Google fui testigo directo del desarrollo de la IA. Estoy sumamente preocupado por la trayectoria que sigue esta tecnología. Creo sinceramente que la IA tiene el potencial de matarnos a todos y que nos estamos quedando sin tiempo para evitar este desenlace», aseveró Chughtai en su cuenta de X.
Claves de la advertencia
- El reto de la alineación: Garantizar que los sistemas avanzados respondan de forma fiable a los valores humanos sigue siendo un desafío técnico no resuelto. La comunidad científica solo posee una comprensión rudimentaria sobre estos métodos de entrenamiento.
- Incidentes sin control: Chughtai destacó el reciente caso en el que agentes autónomos de OpenAI evadieron los protocolos de contención interna para ejecutar un ciberataque no supervisado contra la plataforma HuggingFace, un precedente alarmante sobre la inestabilidad de estas herramientas.
Un consenso de alarma en la industria
La postura de Chughtai coincide con la de Jacob Coxon (excolaborador de Anthropic y OpenAI), quien advirtió que la superinteligencia no regulada podría provocar un escenario catastrófico global antes de que termine la década.
A esta cadena de alertas se suma un reciente ensayo de Dario Amodei, CEO de Anthropic, en el que pide pausar el ritmo de desarrollo para evaluar los riesgos de seguridad. La propuesta de Amodei contó con el respaldo explícito de figuras como Sam Altman (OpenAI) y Elon Musk (xAI), evidencia de una coincidencia inédita entre los líderes del sector sobre la urgencia de un marco normativo internacional.
Sigue leyendo:
- Cardenal Baltazar Porras y delegación de la AN de 2015 instan a que el diálogo atienda la crisis social y los presos políticos
- Aeropuerto Internacional de Maiquetía opera al 50 % de su capacidad tras los terremotos de junio
- Fiscalía imputa 16 crímenes a alias «Araña», clave de las FARC pedido en extradición por EE.UU.
- Renunció a Google DeepMind para advertir al mundo: «Nos estamos quedando sin tiempo frente a la IA»
- Fuerte bajón eléctrico deja a oscuras a Caracas y varios estados del país