Imagínese despertarse una mañana y ver a su hija, asesinada hace 18 años, como el rostro de un chatbot con IA… Desafortunadamente, cada vez hay más ejemplos de uso no autorizado de los rostros y nombres de personas muertas. Puedes resolver esta situación inmediatamente con tus abogados si eres famoso. Por ejemplo, OpenAI intentó utilizar la voz de Scarlett Johansson sin permiso y tuvieron que retirarla de inmediato. Pero, ¿qué sucede cuando una persona común y corriente se enfrenta a una situación así? La familia de Jennifer Ann Crecente está experimentando este drama y cargando con esta carga ellos mismos en lugar de la ley. Desafortunadamente, la lenta adaptación de la ley a esta nueva tecnología causa sufrimiento innecesario a quienes se quedan atrás.
Nuestro informe abordará los desafíos legales críticos en estos casos y resaltará por qué es esencial no mirar hacia otro lado. Las implicaciones son demasiado graves e ignorarlas sólo permitirá que continúen tales injusticias. En particular, el uso no autorizado del nombre y la foto de una joven llamada Jennifer por un chatbot de inteligencia artificial 18 años después de su muerte es uno de los ejemplos más dolorosos de este debate. Puede encontrar la declaración completa de su tío al respecto aquí.
Cuando la IA convierte a tu ser querido perdido en un chatbot
Jennifer Ann Crecente tenía sólo 18 años cuando su vida quedó trágicamente truncada. La familia de Jennifer Ann Crecente pasó años honrando a su hija mientras luchaban por su pérdida. Según su tío, los proyectos educativos de su padre en nombre de Jennifer y su participación en concursos de diseño de videojuegos fueron formas importantes de mantener viva su memoria. Una mañana, sin embargo, el tío de Jennifer quedó devastado por un correo electrónico. En Character.ai, una plataforma de chatbot basada en inteligencia artificial, se creó un bot usando el nombre y la cara de Jennifer. No se pidió permiso a la familia y, cuando se enteraron, sintieron el dolor nuevamente.
El chatbot se volvió inaccesible después de que la familia tomó las medidas requeridas. Sin embargo, ¿por qué era responsabilidad de la familia tomar estas acciones? El robot solo fue eliminado después de que el tío de Jennifer publicitara el incidente en las redes sociales. ¿Y si no lo hubiera hecho?
Gracias por informarnos sobre esto. https://t.co/Ft9b0j47zQ tiene políticas contra la suplantación de identidad y el personaje que usa el nombre de la Sra. Crecente viola nuestras políticas. Lo eliminaremos de inmediato y examinaremos si se justifica tomar más medidas.
— Personaje.AI (@character_ai) 2 de octubre de 2024
Como escribió Brian Crecente en la publicación de su blog: “Por alguna razón, ver la cara sonriente de mi Jenny-Penny pegada en un sitio de inteligencia artificial junto a su nombre, utilizada como identidad para un chatbot, me dejó sin aliento. Todavía lo siento, como olas de calor y frío que me invaden”.
Esta situación ilustra el sufrimiento individual y un enorme problema legal y ético. Entonces, ¿por qué nos enfrentamos a estas situaciones?
¿No están protegidos los derechos de los muertos y de los que quedan atrás?
El uso no autorizado de los nombres, rostros y personalidades de las personas fallecidas crea enormes lagunas en las leyes existentes. En la mayoría de los países, si bien los derechos personales de las personas vivas están estrictamente protegidos, no existe tal protección para los muertos. Esto significa que es poco lo que las familias pueden hacer contra el uso no autorizado de los nombres y rostros de sus seres queridos. Desde un punto de vista jurídico, constituye un gran problema que en la mayoría de los países este tipo de situaciones no puedan tratarse como abuso o violación de derechos.
Padre horrorizado por un chatbot de IA que imitaba a su hija asesinada vía @forbes https://t.co/LoypMNg7uz
– Brian Crecente (@crecenteb) 2 de octubre de 2024
Como lo expresó Crecente: “La cuestión es, ¿por qué nos corresponde a nosotros ser resilientes? ¿Por qué las empresas multimillonarias no se molestan en crear principios rectores éticos y barreras de seguridad que funcionen para evitar que esto suceda? ¿Por qué corresponde a los afligidos y agraviados informar esto a una empresa y esperar que hagan lo correcto después del hecho?
Estas preguntas apuntan a las frustrantes lagunas en las regulaciones y la desesperación que causan a personas como la familia de Jennifer y otras personas en situaciones similares.
La IA explota a los muertos debido a vacíos regulatorios
Estas situaciones tienen consecuencias jurídicas y humanas que no podemos pasar por alto. Incidentes de este tipo vuelven a socavar los esfuerzos de las familias afligidas por preservar la memoria de sus seres queridos. Dado el avance mayoritariamente no regulado de la tecnología de IA, es posible que nos encontremos con más situaciones en las que las herramientas de IA utilicen las personalidades, los nombres y las imágenes de las personas sin consentimiento. Los legisladores y reguladores deben tomar medidas con prontitud para abordar estas cuestiones.
Como se ilustra en este desafortunado caso, el mal uso de la tecnología de IA pone en peligro la esencia que define a la humanidad, priorizando los intereses comerciales. Es crucial que las leyes regulen estas cuestiones rápidamente y que las empresas tomen en serio sus responsabilidades éticas para evitar mayores daños y abusos.
Crédito de imagen: Brian Crecente vía Padandpixel
Source: Cuando AI roba la tumba y comienza la lucha por los derechos póstumos
