Los eurodiputados votan un proyecto para regular el uso de aplicaciones con Inteligencia Artificial

Entre las preocupaciones centrales de la iniciativa europea se encuentran la difusión de contenidos peligrosos, la manipulación de la opinión pública mediante la creación de imágenes falsas y sistemas de vigilancia masiva.

El gran público descubrió su inmenso potencial a finales del año pasado con el lanzamiento del generador de contenidos editoriales. ChatGPT, de la empresa californiana OpenAI, capaz de escribir ensayos, poepero, o traducciones, en tan solo unos segundos.

Ante estos rápidos cambios, la Comisión Europea propuso un proyecto de ley general hace dos años, y los países del bloque no definieron su posición hasta finales de 2022. Ahora, los eurodiputados definirán su posición en esta votación.

El nuevo paso abrirá una fase de difíciles negociaciones entre parlamentarios europeos y países miembros y, por ello, la vicepresidenta de la Comisión Europea, Margrethe Vestager, pidió este lunes no perder el tiempo.

"Realmente espero que podamos terminar [las negociaciones] este año", dijo.

El retraso se explica, en parte, por la aparición en el debate público de las llamadas Inteligencias Artificiales de propósito general, capaces de realizar una amplia variedad de tareas, incluidas IA generativas como ChatGPT.

Discusión compleja

En su propuesta, los eurodiputados quieren obligar a los proveedores a implementar protecciones contra contenidos ilegales y revelar datos protegidos por derechos de autor utilizados para desarrollar sus algoritmos.

También quieren prohibir los sistemas de reconocimiento de emociones y eliminar la identificación biométrica remota de personas en lugares públicos por parte de las autoridades. También pretenden prohibir la recopilación masiva de fotografías en Internet para entrenar algoritmos sin el consentimiento de las personas implicadas.

Para el eurodiputado liberal rumano Dragos Tudorache, uno de los ponentes del proyecto, se trata de un “texto muy complejo y hemos añadido un nuevo régimen de normas dedicadas a la IA generativa”.

El núcleo del proyecto consiste en una lista de reglas impuestas únicamente a las aplicaciones que las propias empresas considerarán de “alto riesgo”.

Para Pierre Larouche, experto en derecho digital de la Universidad de Montreal e investigador del Centro de Regulación en Europa (CERRE), los posibles riesgos de la IA generativa no requieren un tratamiento separado.

“No veo la razón del Parlamento. No veo en qué se diferencian estos riesgos de lo que ya se había previsto” en la propuesta lanzada por la Comisión hace dos años, afirmó el experto a la AFP.

Presentada en abril de 2021, la propuesta de la Comisión Europea ya marca un hito para los sistemas de Inteligencia Artificial que interactúan con los humanos. Por tanto, era necesario el control humano sobre la máquina, la difusión de documentación técnica o incluso la implementación de un sistema de gestión de riesgos.

Lea también: