Altman compareció junto al profesor de la NYU Gary Marcus y la jefa de confianza de IBM Christina Montgomery para debatir cómo debería regular el gobierno estadounidense la industria de la IA.
Sam Altman, consejero delegado de OpenAI y cofundador de Worldcoin, testificó recientemente ante el Congreso junto a Christina Montgomery, jefa de confianza de IBM, y Gary Marcus, profesor de la Universidad de Nueva York.
La sesión de la Subcomisión de Privacidad, Tecnología y Legislación del Poder Judicial del Senado representó la primera comparecencia oficial de Altman ante el Congreso, dando a los senadores la oportunidad de interrogar al CEO de OpenAI acerca de las opiniones de su empresa sobre la regulación.
La sesión, calificada de “histórica” por el senador de Illinois Dick Durbin, se centró en la comprensión de las amenazas potenciales que plantean los modelos de inteligencia artificial generativa (IA) como ChatGPT y en la forma en que los legisladores deberían abordar su regulación.
Los comentarios de Altman -que, según miembros del Congreso y su colega Marcus, parecieron sinceros y genuinos- tomaron por sorpresa a varios miembros del Senado.
Defendió la creación de una agencia federal de supervisión con autoridad para emitir y revocar licencias de desarrollo, declaró que creía que los creadores debían ser compensados cuando su trabajo se utilizara para entrenar un sistema de IA y se mostró de acuerdo en que los consumidores que sufrieran daños utilizando productos de IA deberían tener derecho a demandar al desarrollador.
Altman eludió las preguntas relacionadas con la reciente carta “AI pause“, que pedía una moratoria de seis meses en el despliegue de sistemas más potentes que GPT-4, el sistema de IA en el que se basa ChatGPT, afirmando que OpenAI había pasado más de seis meses evaluando GPT-4 antes de su despliegue. Afirmó que la empresa no tenía previsto desplegar otro modelo en los próximos seis meses.
Marcus, uno de los firmantes de la carta de pausa, admitió que estaba más de acuerdo con el espíritu de la carta que con su contenido, pero el profesor de la NYU instó al Congreso a considerar la supervisión global además de la regulación federal, un sentimiento con el que Altman estaba de acuerdo.
A lo largo de la audiencia, los tres ponentes invitados coincidieron en la mayoría de los temas. Entre ellos, el apoyo a la protección de la privacidad, una mayor supervisión gubernamental, la auditoría por terceros y la prontitud con la que el gobierno de Estados Unidos debería tratar de regular el sector (inmediatamente).
Sin embargo, una de las únicas fuentes de discordia provino de Montgomery, de IBM, que se mostró en desacuerdo con la idea de que fuera necesaria una nueva agencia federal para hacer cumplir la normativa en el sector de la IA.
Sus declaraciones indicaron que IBM está a favor de un enfoque quirúrgico de la regulación utilizando los organismos reguladores existentes para centrar la aplicación en casos de uso específicos.
Aunque los tres ponentes coincidieron en que la IA podría ser perjudicial y requerir intervenciones de seguridad, Marcus dejó claro que cree que actualmente nadie entiende ni puede predecir lo perjudiciales que pueden ser o llegar a ser los productos de IA existentes. Abogó por un enfoque prudente que implique una mayor transparencia.
Los ponentes también coincidieron con miembros del Congreso en que Estados Unidos necesita una ley nacional de privacidad similar a las europeas. Altman, sin embargo, se mostró en desacuerdo con la idea de que los consumidores puedan negarse a que sus datos web públicos se incluyan en los conjuntos de datos de entrenamiento.
Altman tampoco quiso dejar constancia de que OpenAI se opusiera a ofrecer una versión basada en publicidad de sus productos GPT. El CEO se limitó a afirmar que “no diría nunca”.
Esto, a pesar de haber dicho anteriormente en la audiencia que los productos de OpenAI cumplían las normas de privacidad de los consumidores porque la empresa no creaba perfiles de usuario con el fin de ofrecer anuncios personalizados.
Citando su experiencia como licenciado en Stanford y legislador que trabaja con empresas descentralizadas de finanzas y Web3, el senador de Nueva Jersey Corey Booker sacó a relucir la cuestión más importante de la centralización. Preguntó cuáles serían las implicaciones de la centralización y la monopolización para la industria, una pregunta a la que Marcus respondió con la grave advertencia de que el país podría estar arriesgándose a ceder el control sobre la percepción pública a un pequeño número de actores: las principales empresas de IA con dinero suficiente para competir con Microsoft, Google y Amazon.
Altman, cuyo proyecto Worldcoin combina un activo de criptomoneda descentralizado en la blockchain Ethereum con la autenticación de identidad mediante tecnología de escaneado del iris, explicó que OpenAI se limitaba a proporcionar una plataforma y que la democratización de los productos de OpenAI se produjo cuando desarrolladores, empresas y usuarios finales adaptaron la API GPT para usos “fantásticos”.
