La Unión Europea ha alcanzado un acuerdo preliminar que establece restricciones sobre la operación de modelos avanzados de inteligencia artificial, como el conocido ChatGPT. Este acuerdo representa una parte esencial de la primera regulación integral de inteligencia artificial en el mundo.
Según un documento de la UE al que tuvo acceso Bloomberg, todos los desarrolladores de sistemas de IA de propósito general, es decir, modelos potentes con una amplia gama de aplicaciones, deberán cumplir con requisitos básicos de transparencia, a menos que sean gratuitos y de código abierto.
Le puede interesar: Buscan crear alternativa al canal de Panamá para el transporte comercial
Estos requisitos incluyen:
Tener una política de uso aceptable
Mantener información actualizada sobre cómo entrenaron sus modelos.
Informar un resumen detallado de los datos utilizados para entrenar sus modelos.
Tener una política para respetar la ley de derechos de autor.
Los modelos que se consideren que presentan un «riesgo sistémico» estarán sujetos a reglas adicionales, determinadas por la UE según la potencia informática utilizada en el entrenamiento del modelo, estableciendo un umbral en aquellos modelos que utilicen más de 10 billones de billones de operaciones por segundo, una categoría que actualmente solo se ajustaría al modelo GPT-4 de OpenAI, según los expertos.
Estos modelos altamente capaces deberán firmar un código de conducta mientras la Comisión Europea trabaja en controles más armonizados y duraderos. Aquellos que no firmen deberán demostrar a la comisión que cumplen con la Ley de IA. La exención para los modelos de código abierto no aplicará a aquellos que se consideren un riesgo sistémico.
Además, estos modelos deberán informar sobre su consumo de energía, realizar pruebas de equipo rojo o adversarios, evaluar y mitigar posibles riesgos sistémicos, garantizar el uso de controles de ciberseguridad adecuados, informar sobre la información utilizada para ajustar el modelo y la arquitectura del sistema, y cumplir con estándares más eficientes energéticamente.
El acuerdo provisional aún está pendiente de aprobación por parte del Parlamento Europeo y los 27 estados miembros de la UE. A pesar de la histórica regulación, ha habido expresiones de preocupación, especialmente de Francia y Alemania, sobre la posibilidad de aplicar demasiada regulación a modelos de IA de uso general y el riesgo de afectar a competidores europeos como Mistral AI de Francia o Aleph Alpha de Alemania.
puede leer: Senado ruso votó a favor de elecciones presidenciales
