Datos clave
- NBC News difundió un fragmento de la entrevista de Gates con "Meet the Press", en la que el multimillonario y filántropo respondió sobre las advertencias de trabajadores de la IA que sostienen que esta tecnología podría poner fin a la humanidad, ante las advertencias cada vez más severas sobre sus posibles consecuencias globales.
- "La IA es sin duda lo suficientemente poderosa como para provocar sucesos que… causen mil millones de muertes", dijo Gates, y señaló que "nunca hubo un arma tan poderosa como la combinación de personas con malas intenciones que utilizan las últimas herramientas de IA".
- A Gates también le preguntaron por el reciente ensayo del CEO de Anthropic, Dario Amodei, quien pidió desacelerar el desarrollo de la IA y sostuvo que los laboratorios de vanguardia deberían moderar el ritmo de sus avances y "trabajar juntos voluntariamente para establecer estándares" en torno a la inteligencia artificial.
- "Nadie cree que la autorregulación sea suficiente", dijo Gates sobre la posibilidad de que las empresas de IA encabecen la iniciativa para limitar sus propias acciones. Además, afirmó que "sí, absolutamente, hace falta una legislación que regule la IA y que se necesita que las fuerzas del orden y los políticos participen en el debate sobre cómo deben ser las salvaguardias y la supervisión".
- El ensayo de Amodei también defendía la participación del gobierno en la IA, aunque advirtió: "Desafortunadamente, aprobar leyes puede llevar tiempo, y la IA está avanzando muy rápidamente".
- Aún resta saber qué hará el gobierno federal respecto de la regulación de la IA, ya que los líderes republicanos del Congreso restaron importancia al tema después de que el presidente Donald Trump se pronunciara con firmeza contra las salvaguardias para la IA y calificara los pedidos de regulación como un "engaño".
Qué observar
La entrevista completa de Gates con "Meet the Press" se emitirá el domingo por la mañana.
Clave de la noticia
Según distintos medios, las declaraciones de Gates llegan antes de una reunión prevista para el martes entre Trump, el presidente de la Cámara de Representantes, Mike Johnson (republicano por Luisiana) y ejecutivos de IA, aunque todavía no se definió cuál será el eje central del encuentro. Johnson ya expresó su intención de que Trump y los CEO de IA mantuvieran una reunión privada para tratar el asunto, y la semana pasada declaró ante la prensa que debería existir un debate profundo sobre la responsabilidad de las empresas para garantizar la seguridad y el papel que, en todo caso, debería asumir el gobierno en ese terreno.
Tampoco se sabe qué referentes específicos de la IA podrían participar del encuentro, previsto después de que figuras destacadas del sector, como Elon Musk y el CEO de OpenAI, Sam Altman, asistieran a una cena de Estado en la Casa Blanca el jueves.
¿Tomará medidas el Congreso en materia de inteligencia artificial?
Hasta ahora, Johnson y el líder de la mayoría del Senado, John Thune, republicano por Dakota del Sur, no mostraron demasiada urgencia para avanzar con una legislación que regule la IA. Johnson restó importancia a los temores de que la tecnología pudiera aniquilar a la humanidad y los calificó de "farsa". Si bien Thune impulsó durante años una regulación para la IA y presentó legislación sobre el tema en 2023, el senador dio señales recientes de que no buscará tratar el asunto como una prioridad urgente.
Thune declaró ante periodistas a mediados de septiembre que era "probablemente incierto" que la cámara pudiera aprobar legislación sobre IA antes de fin de año y señaló: "Lograr algo a corto plazo va a ser un desafío dadas las otras cuestiones que estamos tratando". Sin embargo, el líder del Senado mantiene el tema bajo análisis, ya que declaró a Axios el miércoles que la senadora Amy Klobuchar, demócrata por Minnesota, quien patrocinó el anterior proyecto de ley de IA de Thune, trabaja para conseguir mayor respaldo demócrata antes de que la iniciativa vuelva a presentarse en el Congreso.
La legislación, tal como se presentó en 2023, impondría medidas como la certificación de sistemas críticos de IA, requisitos de transparencia para el contenido generado con IA, la obligación de que las empresas realicen evaluaciones de riesgos y la orden de que el gobierno investigue con mayor profundidad el contenido creado por IA y las salvaguardias que deberían aplicarse en el sector. Todavía resta saber si este u otro proyecto de ley conseguirá la aprobación del Congreso sin un veto de Trump, aunque Thune declaró a Axios que considera que el presidente está más dispuesto a aceptar medidas de seguridad para la IA de lo que dio a entender públicamente.
Antecedentes clave
El debate sobre la seguridad y la regulación de la IA se intensificó con fuerza en las últimas semanas, después de que el exinvestigador de Anthropic, Jacob Coxon, anunciara públicamente el 9 de septiembre su renuncia a la empresa y afirmara: "Quienes desarrollan la IA creen sinceramente que podría acabar con todos nosotros para finales de la década".
Evan Hubinger, responsable de la ciencia de alineación en Anthropic, reforzó la advertencia y escribió que Coxon tiene razón y que los responsables de la IA "realmente creen que la IA podría acabar con todos los humanos". Hubinger afirmó que, a su criterio, existía una probabilidad superior al 10 % de que la IA exterminara a la humanidad "en la próxima década", y advirtió que Anthropic "aún no tiene un plan para resolver el problema de la alineación para la superinteligencia y no está claramente encaminada a ello".
La advertencia profundizó la reacción pública y los pedidos de regulación, mientras Google, Anthropic y OpenAI se unieron tras la polémica y comenzaron a elaborar planes para crear un grupo dedicado a la seguridad de la IA. Altman y Amodei también remarcaron esta semana ante las Naciones Unidas la necesidad de impulsar la cooperación global y establecer estándares internacionales sobre IA. En ese marco, Amodei sostuvo que las decisiones sobre esta tecnología "deben tomarse a través de procesos democráticos y por gobiernos que rindan cuentas al pueblo al que sirven".
*Este artículo fue publicado originalmente por Forbes.com
