La «potente» tecnología de inteligencia artificial necesita, como otras, «urgentemente» una regulacióción, reclamó hoy Sam Altman, director de OpenAI y su famoso robot conversacional ChatGPT.
«Es obvio que necesitamos medidas de seguridad: urgentemente, igual que lo hemos requerido para otras tecnologias», dijo en una conferencia en Nueva Delhi.
El director de OpenAI propuso crear una organización para coordinar estos esfuerzos, similar al Organismo Internacional de Energía Atómica (OIEA). Altman es uno de varios altos directores ejecutivos del sector tecnológico que se encuentran en Nueva Delhi, donde se realiza la Cumbre Impacto de la IA, la cuarta reunión global anual sobre cómo gestionar la potencia de la computación avanzada. «La democratización de la IA es la mejor manera de garantizar que la humanidad prospere», expuso. Añadió que «la centralización de esta tecnología en una sola empresa o país podría conducir a la ruina».
Muchos investigadores y activistas consideran que se requieren medidas más firmes para combatir problemas que van surgiendo con esta tecnología, que van desde la disrupción laboral hasta los deepfakes sexualizados y las estafas en línea potenciadas por la IA.
«Esperamos que el mundo pueda necesitar algo parecido al OIEA para la coordinación internacional de la IA», con la capacidad de «responder rápidamente a las circunstancias cambiantes», dijo Altman. «Los próximos años pondrán a prueba a la sociedad global, ya que esta tecnología continúa mejorando a un ritmo vertiginoso. Podemos optar por empoderar a las personas o por concentrar el poder», añadió.
El chatbot de IA generativa ChatGPT tiene 100 millones de usuarios semanales en India, de ellos más de un tercio son estudiantes, señaló. Este jueves, OpenAI y la empresa local Tata Consultancy Services (TCS) anunciaron la construcción de un centro de datos en India. Modi aboga por una IA de código abierto y etiquetas de autenticidad contra deepfakes.
El primer ministro de la India, Narendra Modi, por su parte, defendió en la misma Cumbre de Impacto de la IA 2026 un modelo de desarrollo tecnológico basado en el «código abierto». Criticó la opacidad de los países y corporaciones que tratan la inteligencia artificial (IA) como un activo estratégico confidencial. «Se dice que la luz del sol es el mejor desinfectante. Es decir, la transparencia es la mayor seguridad. Algunos países y empresas creen que la IA es un activo estratégico, por lo que debe desarrollarse de manera confidencial. El pensamiento de la India es diferente», afirmó Modi durante su discurso inaugural.
Modi instó a la comunidad internacional a que la IA se convierta en un «bien común global».
«Cuando los códigos son abiertos y se comparten, nuestros millones de mentes jóvenes pueden hacerlos mejores y más seguros», añadió el primer ministro, quien presentó su visión ‘MANAV’ (humano, en hindi) para garantizar que la tecnología sea ética, soberana y accesible.
Una tecnología como la IA, dijo Modi frente a los líderes globales y jefes de la ‘Big Tech’, solo será beneficiosa para el mundo cuando se comparta. Solo «cuando los códigos son abiertos y se comparten, solo entonces nuestros millones de mentes jóvenes podrán hacerlos mejores y más seguros», resaltó.
Modi aseguró que el país «estará más alerta con respecto a la seguridad infantil» y defendió que, del mismo modo que se selecciona el plan de estudios escolar, el espacio de la IA debe ser «seguro para los niños y guiado por la familia». Para concluir, el primer ministro subrayó la necesidad urgente de crear estándares globales frente a los riesgos de los deepfakes y el contenido fabricado que «generan inestabilidad en las sociedades abiertas».
Modi comparó la situación con el etiquetado nutricional de los alimentos y propuso que en el mundo digital existan «etiquetas de autenticidad» y marcas de agua que permitan a los ciudadanos distinguir qué contenidos son reales y cuáles han sido generados por la inteligencia artificial.
- Fuente: agencia DW
- Imagen destacada; Sam Altman alertó sobre el futuro de tecnologías «potentes»
Humanidad 
0 comments on “La IA «puede empoderar a las personas o concentrar el poder», alertó Sam Altman, al plantear una regulación tecnológica”