(CNN) El CEO de OpenAI, Sam Altman, instó a los legisladores a regular la IA durante una audiencia en el Senado el martes, y describió el auge actual de la tecnología como un «momento de impresión» potencial, pero que requiere salvaguardas.
“Creemos que la intervención regulatoria de los gobiernos será fundamental para mitigar los riesgos de modelos cada vez más poderosos”, dijo Altman en sus comentarios de apertura ante un Subcomité Judicial del Senado.
El surgimiento de Altman sigue al gran éxito de la herramienta de chatbot ChatGPT de su compañía, que ha renovado la carrera armamentista sobre la inteligencia artificial y ha generado preocupación entre algunos legisladores sobre los riesgos que plantea la tecnología.
El senador Richard Blumenthal inició la audiencia el martes con una grabación falsa de su voz, que ilustra los peligros potenciales de la tecnología. La grabación, que incluía notas escritas por ChatGPT y un audio de la voz de Blumenthal producido con grabaciones de sus discursos reales, argumentaba que no se podía permitir que la IA emergiera en un entorno no regulado.
Blumenthal explicó que si bien ChatGPT proporcionó un reflejo preciso de los puntos de vista de un legislador real, fácilmente podría haber producido «un respaldo a la rendición de Ucrania o al liderazgo de Vladimir Putin». Esto dijo, «Hubiera sido realmente aterrador».
Una lista creciente de empresas de tecnología ha implementado nuevas herramientas de inteligencia artificial en los últimos meses, con el potencial de cambiar la forma en que trabajamos, compramos e interactuamos entre nosotros. Pero estas mismas herramientas también han generado críticas de algunos de los nombres más importantes de la tecnología por el potencial de interrumpir millones de empleos, difundir información errónea y perpetuar el sesgo.
En sus comentarios del martes, Altman dijo que la posibilidad de que la IA se use para manipular a los votantes y atacar la desinformación se encuentra entre las «áreas que más me preocupan», especialmente porque vamos a las elecciones del próximo año y estos modelos están mejorando. «
Altman dijo el martes que una forma en que el gobierno de EE. UU. puede regular la industria es crear un régimen de licencias para las empresas que trabajan en los sistemas de IA más potentes. Altman dijo que esta «combinación de requisitos de licencia y prueba» se puede aplicar al «desarrollo y lanzamiento de modelos de IA por encima del umbral de capacidad».
También testificarán el martes Christina Montgomery, vicepresidenta y directora de privacidad y confianza de IBM, así como Gary Marcus, un exprofesor de la Universidad de Nueva York que se ha descrito a sí mismo como un crítico del «ruido» de la IA.
Montgomery advirtió sobre la creación de una nueva era de «moverse rápido y romper cosas», el viejo mantra de los gigantes de Silicon Valley como Facebook. «La era de la IA no puede ser otra era de ‘ir rápido y romper cosas’”, dijo Montgomery a los legisladores. Sin embargo, dijo, «tampoco tenemos que frenar la innovación».
Altman y Montgomery también dijeron que la IA puede eliminar algunos trabajos, pero crea otros nuevos.
«Habrá un impacto en los puestos de trabajo», dijo Altmann a Blumenthal. «Estamos tratando de ser muy claros al respecto, y creo que requerirá una asociación entre la industria y el gobierno, pero a menudo tomada por el gobierno, para descubrir cómo queremos mitigar eso. Pero soy muy optimista acerca de cómo grande será el futuro de los trabajos».
El director ejecutivo de OpenAI, Sam Altman, testifica ante una audiencia del Subcomité Legal del Senado sobre privacidad, tecnología y derecho titulada «Administración de inteligencia artificial: las reglas de la inteligencia artificial» en Capitol Hill en Washington, EE. UU., el 16 de mayo de 2023.
Como CEO de OpenAI, Altman se ha convertido, quizás más que cualquier otra figura, en el rostro de un nuevo conjunto de productos de IA que pueden generar imágenes y texto en respuesta a las indicaciones del usuario.
Los comentarios de Altman llegan un día después de que se reuniera para cenar con más de 60 miembros de la Cámara de Representantes. El caucus bipartidista, que tiene una división pareja de republicanos y demócratas, vio a Altman demostrar varios usos de ChatGPT «para su diversión», según una persona en la sala que describió a los legisladores como «energizados» por el evento.
La persona agregó que la mayoría de los asistentes reconocieron ampliamente que sería necesaria la regulación de la IA.
El representante demócrata de California, Ro Khanna, cuyo distrito incluye a Silicon Valley, dijo que Altman enfatizó durante la cena que la IA es una herramienta, no una «criatura» y que la IA «puede ayudar con las tareas, no con los trabajos».
“La contribución más útil de Altman fue reducir el ruido”, dijo Khanna a CNN.
En un reflejo de cómo la inteligencia artificial ha invadido el Congreso, incluso cuando el Subcomité Judicial estaba cuestionando a OpenAI e IBM, el Comité de Asuntos Gubernamentales y Seguridad Nacional del Senado estaba celebrando una audiencia separada y simultánea sobre el uso de la IA en el gobierno.
A principios de este mes, Altman fue uno de varios directores ejecutivos de tecnología que se reunió con la vicepresidenta Kamala Harris y, brevemente, con el presidente Joe Biden como parte de un esfuerzo de la Casa Blanca para enfatizar la importancia del desarrollo ético y responsable de la IA.
En las entrevistas de este año, Altman se ha presentado a sí mismo como alguien que comprende los peligros que plantea la inteligencia artificial e incluso le tiene «un poco de miedo» a la tecnología. Él y su compañía se han comprometido a avanzar de manera responsable.
Otros quieren que Altman y OpenAI se muevan con más cuidado. Elon Musk, quien ayudó a fundar OpenAI antes de abandonar el grupo, se unió a docenas de líderes tecnológicos, profesores e investigadores para firmar una carta en la que pide a los laboratorios de IA como OpenAI que dejen de entrenar los sistemas de IA más potentes durante al menos seis meses, citando » profundos riesgos para la sociedad y la humanidad”.
Altman dijo que estaba de acuerdo con partes de la carta. «Creo que caminar con precaución y aumentar el rigor de los problemas de seguridad es realmente importante», dijo Altman en el evento del mes pasado. «El mensaje no creo que fuera la mejor manera de contrarrestarlo».
— Jennifer Korn de CNN contribuyó a este informe.
«Experto en la web. Fanático de la cerveza exasperantemente humilde. Fanático del tocino. Creador típico. Experto en música».