Nuevo documento técnico de PEN America: La chispa humana que impulsa la creatividad debe salvaguardarse a medida que surgen amenazas potenciales de la inteligencia artificial

Jul 25, 2023

Las nuevas tecnologías de inteligencia artificial han surgido como un tema central en las huelgas de escritores y actores de Hollywood

PARA PUBLICACIÓN INMEDIATA

(NUEVA YORK)–Advirtiendo que la inteligencia artificial generativa podría plantear nuevas amenazas a la libre expresión al potenciar el engaño y la represión e infringir el trabajo de escritores y artistas, PEN America publicó hoyDiscurso en la máquina: implicaciones de la IA generativa para la libre expresión, un análisis de este momento tecnológico decisivo y sus implicaciones para la confianza cívica, la libertad de expresión, la expresión creativa, la autenticidad y la noción misma de verdad.

La principal organización estadounidense de libre expresión y escritores, en su nuevo libro blanco, aborda lo conocido y lo desconocido sobre las herramientas de inteligencia artificial generativa, al tiempo que ofrece principios para guiar a los formuladores de políticas y a otros que luchan con los posibles impactos en la sociedad.

El libro blanco añade libertad de expresión a las preocupaciones expresadas sobre la IA generativa, advirtiendo que el impacto sobre este derecho básico (para bien o para mal) dependerá de si los gobiernos y las empresas privadas “definen y ejecutan sus responsabilidades en materia de derechos humanos”.

El análisis se produce cuando la nueva tecnología ha surgido como un tema central en las huelgas de escritores y actores de Hollywood, y ambos grupos han expresado su preocupación por el uso de su producción creativa y el potencial de la IA generativa para dañar los medios de vida. Los autores también han presentado una demanda argumentando que los modelos actuales de IA generativa infringen sus derechos de autor.

"Si los escritores y creadores son cada vez más desplazados por las máquinas, esto representa una amenaza no sólo para esos artistas creativos, sino para el público en general", afirma el libro blanco. “El alcance de la inspiración de la que extraen obras creativas verdaderamente nuevas puede verse reducido, y el poder mismo de la literatura, la televisión y el cine para catalizar formas innovadoras de pensamiento puede verse socavado”. El artículo sugiere que su uso en campos creativos podría potencialmente conducir a obras "que sean menos ricas o menos reflejo de los amplios matices de la experiencia y expresión humana".

Suzanne Nossel, directora ejecutiva de PEN America, dijo: “No podemos permitirnos otra falta de imaginación cuando se trata de las ramificaciones de la IA generativa para la sociedad. A medida que nos enfrentamos al inmenso potencial de los grandes modelos lingüísticos, debemos pensar de manera amplia en su potencial para remodelar nuestros lugares de trabajo, escuelas, cultura y comunidades. Los modelos de IA en lenguajes grandes son innatamente derivados; cuanto mayor sea su influencia, más uniformes podrán llegar a ser nuestra televisión, nuestras películas y nuestros libros. Su potencial para adaptar la producción de entretenimiento a las demandas de los usuarios puede satisfacer al consumidor y al mismo tiempo empobrecer nuestra experiencia humana colectiva. Las redes sociales nos han enseñado que una vez que estos sistemas crecen a escala, su poder para remodelar la sociedad puede superar la capacidad de los tribunales, los reguladores e incluso los propios creadores para contener daños potenciales. Somos conscientes de que estos riesgos existen y tenemos la responsabilidad urgente de evaluarlos y gestionarlos antes de que la IA nos supere”.

LEA el ensayo de Suzanne Nossel en The New Republic, “La lucha de Hollywood contra la IA nos afectará a todos”, que analiza el potencial de la IA generativa para remodelar la cultura, el discurso y nuestras relaciones unos con otros.

El documento técnico de 36 páginas de PEN America sostiene que las herramientas de IA generativa pueden estimular la inspiración y el ingenio, o superar la comunicación humana de maneras que socavan la autenticidad en el discurso público y el valor subyacente de la expresión abierta.

“La IA generativa y las herramientas automatizadas representan un cambio radical en la forma en que los artistas, periodistas y escritores crean, interactúan y difunden contenido, y en cómo el público lo entiende y consume. Estos cambios ofrecen oportunidades para nuevas formas de expresión y creatividad, al mismo tiempo que plantean amenazas a la conducta expresiva”, afirma el libro blanco.

Summer López, directora de programas para la libre expresión de PEN America, dijo: “La IA generativa está en camino de revolucionar la forma en que la humanidad interactúa con el lenguaje y la información, y de remodelar las posibilidades imaginativas en muchos campos. A medida que estas tecnologías evolucionan, debemos salvaguardar la chispa de inspiración exclusivamente humana que impulsa el proceso creativo, proteger el trabajo de escritores y artistas de la usurpación o explotación y anticipar cómo la IA generativa puede acelerar las amenazas existentes a la libre expresión. Debemos reconocer y evitar los riesgos ahora”.

A partir de 2017, PEN America dio la alarma sobre la desinformación en un informe histórico profético, Faking News, advirtiendo sobre amenazas, incluido el surgimiento de una política de hombre fuerte y la gestión de crisis de salud pública que se consideraban entonces “inverosímiles”, pero ahora reflejan la realidad.

Los esfuerzos fragmentados y muy disputados de las empresas de tecnología y las plataformas de redes sociales para contrarrestar la desinformación "pueden, en retrospectiva, parecer un mero ensayo para amenazas más disruptivas que plantea la IA generativa", dice el libro blanco.

La IA generativa está llegando precisamente en el momento en que plataformas clave de redes sociales como Facebook y Twitter/X han recortado drásticamente el personal responsable de la confianza y la seguridad en línea.

En 2019, el informe Losing the News de PEN America documentó el colapso del periodismo local en los EE. UU. y las consecuencias para la democracia y la confianza cívica, un resultado imprevisto del auge de Internet y las redes sociales que también destaca la importancia de anticipar las implicaciones que puede tener la IA generativa. tener sobre el ecosistema de la información en su conjunto.

Entre otras preocupaciones planteadas relacionadas con la libertad de expresión, PEN America incluyó las siguientes:

Los esfuerzos recientes de la Casa Blanca y el Congreso para abordar los problemas planteados por las tecnologías generativas de IA incluyen la obtención por parte de la Administración Biden de compromisos voluntarios de las empresas de IA para un desarrollo seguro y transparente de estas nuevas tecnologías, el marco de innovación SAFE del líder de la mayoría del Senado, Chuck Schumer (“seguridad , responsabilidad, protección de nuestros cimientos y explicabilidad”) tiene como objetivo guiar una legislación integral centrada en la IA después de una audiencia del Congreso sobre IA en mayo que planteó preocupaciones como contenido dañino, desinformación, prejuicios raciales y falta de transparencia.

En sus recomendaciones a los formuladores de políticas, PEN America insta a un enfoque regulatorio que incorpore tanto consideraciones de riesgo como derechos fundamentales, señalando la importancia de estos enfoques y su superposición. Observando lo que considera una “falsa dicotomía” entre un enfoque de regulación “basado en los derechos”, como el Plan de la Administración Biden para una Declaración de Derechos de la IA, o un enfoque “basado en el riesgo”, como la IA de la Unión Europea. Act, el libro blanco afirma: “No sólo es innecesario el marco de derechos versus riesgo, sino que algunos de esos documentos que pretenden caer en un campo u otro son en realidad ambos”.

El libro blanco establece principios rectores adicionales para los responsables políticos y la industria con respecto a esta tecnología emergente. Entre estos están:

Acerca de PEN América

PEN America se encuentra en la intersección de la literatura y los derechos humanos para proteger la expresión abierta en los Estados Unidos y en todo el mundo. Defendemos la libertad de escribir, reconociendo el poder de la palabra para transformar el mundo. Nuestra misión es unir a los escritores y sus aliados para celebrar la expresión creativa y defender las libertades que la hacen posible. Para obtener más información, visite PEN.org

Contacto: Suzanne Trimel, [correo electrónico protegido], 201-247-5057