Por los representantes estatales Bob Merski y Chris Pielli

Es difícil ver las noticias sin ver historias sobre los peligros potenciales de la inteligencia artificial. Los rápidos avances en la tecnología de la IA han provocado advertencias sobre amenazas reales y especulativas. De hecho, a principios de este año, un grupo de investigadores, desarrolladores y expertos en IA escribió una carta abierta en la que advertía que las tecnologías de IA representan «riesgos profundos para la sociedad y la humanidad».

Si bien la amenaza existencial de un levantamiento de robots basados en la IA puede parecer exagerada por ahora, existen otros peligros muy reales, incluido el uso indebido de esta tecnología para engañar y defraudar a los habitantes de Pensilvania, que debemos abordar hoy.

¿Qué es la IA?

La inteligencia artificial es la capacidad de las máquinas basadas en computadora para simular tareas normalmente asociadas con el cerebro humano, como el reconocimiento del lenguaje, la percepción visual, el aprendizaje y la toma de decisiones.

Aunque el concepto no es nuevo, la tecnología se ha vuelto mucho más poderosa en los últimos años gracias a avances como la red neuronal, un sistema matemático que sigue el modelo de las neuronas del cerebro humano. Se introducen grandes cantidades de datos en los nodos de procesamiento del sistema, junto con los parámetros iniciales y el entrenamiento, y el sistema aprende encontrando patrones estadísticos en esos datos.

En los últimos años, los grandes modelos lingüísticos (redes neuronales que se entrenan con grandes cantidades de texto) han dado lugar a sistemas capaces de escribir historias y mantener conversaciones que suenen naturales.

Alexa, Siri, los chatbots y miles de otros sistemas funcionan con inteligencia artificial, desde programas de traducción de texto a voz y reconocimiento facial hasta mecanismos para evitar accidentes automovilísticos. Y se prevé que la futura tecnología de IA pueda conducir a avances importantes en la salud, como la detección y el diagnóstico tempranos del cáncer.

Deepfakes y otras amenazas

A pesar de todo lo que promete, la IA en malas manos —como cualquier otra tecnología— tiene el potencial de causar un gran daño, y uno de los principales motivos de preocupación es la difusión de la desinformación.

Los residentes de Pensilvania tienen derecho a saber si el contenido que consumen fue creado por un ser humano o por una IA. Sin embargo, eso no será posible a medida que la IA se vuelva más sofisticada y sus interacciones suenen más naturales. Esto es especialmente problemático, ya que cada vez más personas confían en el contenido generado por la IA, sin garantías de precisión, para obtener consejos médicos u otras decisiones importantes en la vida.

Más allá del peligro de la desinformación, hay usos más siniestros, como el fraude a gran escala y la difusión intencional de desinformación a través de contenido e imágenes inventados.

Especialmente preocupante es la proliferación de los «deepfakes», es decir, imágenes, vídeos o grabaciones de audio que han sido manipulados para reemplazar la imagen de una persona por la de otra. A medida que avanza la tecnología, lo que hace que sea casi imposible distinguir un original de uno falsificado, también lo hace la posibilidad de un uso malintencionado.

Pensemos en el caos creado por una llamada manipulada digitalmente para que suene exactamente como la que proviene del director financiero de una empresa que solicita una transferencia de fondos, o por la imagen manipulada digitalmente de un líder político o un experto de confianza que ofrece información falsa sobre un tema de seguridad pública. Considere las implicaciones si perdemos el sentido de la realidad compartida sobre el mundo.

Tomar el control de la situación

Con tanto en juego, necesitamos establecer medidas de seguridad ahora para proteger a los habitantes de Pensilvania y preservar la integridad de la información. Como primer paso, estamos introduciendo una legislación para ayudar a Pensilvania a regular y controlar esta tecnología para que pueda usarse de manera responsable.

Nuestras facturas serían:

Exija la divulgación de todo el contenido generado por la IA para que las personas que lo lean o vean tengan la información que necesitan para tomar decisiones informadas y no dejarse engañar.

Imponga sanciones penales por difundir la identidad de una persona por IA o generadas por computadora sin su consentimiento, y tipifique como delito grave de tercer grado el participar en esta conducta con la intención de defraudar o herir.

Cree un grupo de trabajo para estudiar la necesidad de que una agencia del ELA supervise y otorgue licencias a los productos de IA que se utilizan en Pensilvania para proteger a los residentes del fraude.

Cree políticas y pautas para las agencias de la Autoridad Palestina que desarrollan o utilizan sistemas de IA para garantizar que se usen de manera segura de manera que protejan y beneficien a los residentes.

También hemos presentado una resolución que alentaría al ELA a establecer un comité asesor para estudiar la IA y todos sus posibles impactos en los habitantes de Pensilvania, desde la difusión de información falsa hasta la amenaza potencial que la automatización podría representar para los empleos laborales y manuales. Como legisladores, debemos ser conscientes de cómo se usa la IA para asegurarnos de que se usa de manera ética y responsable.

Si bien aún no se conocen todos los riesgos de la IA, una cosa está muy clara: a medida que la tecnología avanza rápidamente, también lo hacen los posibles peligros. Debemos ser proactivos y establecer salvaguardias ahora, para que los residentes de Pensilvania estén protegidos en el futuro.

Merski representa al 2.º distrito legislativo de Pensilvania en el condado de Erie y Pielli representa al 156º distrito legislativo del condado de Chester.

Información proporcionada a TVL por:

Liane Leshne

Oficina de Comunicaciones Democráticas de la Cámara