Inteligencia artificial: El Parlamento Europeo quiere regular mejor ChatGPT

Los eurodiputados exigieron el jueves nuevas prohibiciones relacionadas con la inteligencia artificial y una mejor consideración del fenómeno ChatGPT.

Por Cuba Impacto 

El proyecto europeo para la regulación de la inteligencia artificial superó este jueves una etapa crucial al obtener una primera luz verde de los eurodiputados que pidieron nuevas prohibiciones y una mejor consideración del fenómeno ChatGPT. La Unión Europea quiere ser la primera en el mundo en adoptar un marco legal integral para limitar los excesos de la inteligencia artificial (IA), al tiempo que garantiza la innovación.

Bruselas propuso un proyecto de reglamento ambicioso hace dos años, pero su examen se está prolongando, retrasado en los últimos meses por las controversias sobre los peligros de la IA generativa capaz de crear texto o imágenes. Los eurodiputados respaldaron su posición en una votación en comisión el jueves por la mañana en Estrasburgo, que deberá ser confirmada en el pleno de junio. Comenzará entonces una difícil negociación entre las diferentes instituciones.

 Basado en humanos

“Recibimos más de 3000 enmiendas. Solo hay que encender la tele, todos los días se ve la importancia que tiene este expediente para los ciudadanos”, dijo Dragos Tudorache, co-ponente del texto. “Europa quiere un enfoque ético basado en el ser humano”, resumió Brando Benifei, también coponente.

De gran complejidad técnica, los sistemas de inteligencia artificial fascinan tanto como preocupan. Si bien pueden salvar vidas al permitir un salto cuántico en el diagnóstico médico, también son explotados por regímenes autoritarios para ejercer la vigilancia masiva de los ciudadanos.

ChatGPT e imágenes falsas

El público en general descubrió su inmenso potencial a fines del año pasado con el lanzamiento del generador de contenido editorial ChatGPT de OpenAI, con sede en California, que puede escribir ensayos, poemas o traducciones originales en segundos. Pero la difusión en redes sociales de imágenes falsas, más reales que la vida, creadas a partir de aplicaciones como Midjourney, alertó sobre los riesgos de manipulación de opinión. Personalidades científicas incluso han pedido una moratoria en el desarrollo de los sistemas más potentes, hasta que estén mejor regulados por ley.

El texto del Parlamento se basa en las normas existentes sobre seguridad de los productos e impondrá controles basados ​​principalmente en las empresas. El corazón del proyecto consiste en una lista de reglas impuestas solo a las solicitudes consideradas de “alto riesgo” por las propias empresas según el criterio del legislador. Para el ejecutivo europeo, serían todos los sistemas utilizados en áreas sensibles como infraestructuras críticas, educación, recursos humanos, aplicación de la ley o gestión de la migración...

El ser humano debe tener el control.

Entre las obligaciones: prever el control humano sobre la máquina, el establecimiento de documentación técnica, o incluso el establecimiento de un sistema de gestión de riesgos. Su cumplimiento será monitoreado por las autoridades supervisoras designadas en cada país miembro. Los eurodiputados quieren limitar las obligaciones solo a los productos que puedan amenazar la seguridad, la salud o los derechos fundamentales.

El Parlamento Europeo también tiene la intención de tener mejor en cuenta las IA generativas del tipo ChatGPT al solicitar un régimen específico de obligaciones que esencialmente repita las previstas para los sistemas de alto riesgo.

Los eurodiputados también quieren obligar a los proveedores a implementar protecciones contra el contenido ilegal y revelar los datos (textos científicos, música, fotos, etc.) protegidos por derechos de autor y utilizados para desarrollar sus algoritmos.

Las prohibiciones serán raras. Se referirán a aplicaciones contrarias a los valores europeos, como los sistemas de calificación ciudadana o la vigilancia masiva que se utilizan en China. Los eurodiputados quieren prohibir los sistemas de reconocimiento de emociones y eliminar las excepciones que autorizan la identificación biométrica remota de personas en lugares públicos por parte de las fuerzas del orden. También tienen la intención de prohibir la recolección masiva de fotos en Internet para entrenar algoritmos sin el consentimiento de las personas involucradas.

0/Post a Comment/Comments