La capacidad de los modelos de IA para imitar las respuestas humanas ha provocado un debate sobre si algún día podrían desarrollar la conciencia, lo que lleva a discusiones sobre los derechos y el bienestar de la IA.
Un número creciente de investigadores de IA está explorando la posibilidad de que los modelos de IA desarrollen experiencias subjetivas similares a los seres vivos y, de ser así, qué derechos deberían tener.
Este campo emergente, denominado “AI Welfare” en Silicon Valley, está dividiendo a los líderes tecnológicos.
El CEO de AI de Microsoft, Mustafa Suleyman, ha expresado una fuerte oposición al estudio del bienestar de la IA, argumentando que es “tanto prematuro como francamente peligroso”.
Suleyman sostiene que dicha investigación exacerba temas como descansos psicóticos inducidos por AI y apegos poco saludables a los chatbots de IA al prestar crédito a la idea de que los modelos de IA podrían algún día ser consciente.
También cree que la conversación de bienestar de la IA crea la división social sobre los derechos de IA en un mundo ya lleno de argumentos polarizados sobre la identidad y los derechos.
En contraste, Anthrope ha participado activamente en la investigación de bienestar de la IA, contratando investigadores y lanzando un programa de investigación dedicado en torno al concepto.
Anthrope recientemente equipó sus modelos con una nueva característica que le permite a Claude terminar con las conversaciones con humanos que están siendo “persistentemente dañinos o abusivos”.
Investigadores de Openai y Google Deepmind también han expresado interés en estudiar el bienestar de la IA.
Google Deepmind recientemente publicó un listado de trabajo para que un investigador estudie, entre otras cosas, “preguntas sociales de vanguardia en torno a la cognición de máquinas, la conciencia y los sistemas de múltiples agentes”.
La postura de Suleyman es particularmente notable considerando su papel anterior que lidera la IA de inflexión, la compañía detrás del compañero “personal” de IA Pi, que afirmó haber llegado a millones de usuarios para 2023.
Desde que se unió a Microsoft en 2024, Suleyman ha cambiado su enfoque a las herramientas de inteligencia artificial destinada a mejorar la productividad de los trabajadores.
Mientras tanto, compañías complementarias de IA como el personaje. Ai y Replika han experimentado un aumento en la popularidad y se proyecta que generen más de $ 100 millones en ingresos.
Si bien la mayoría de los usuarios mantienen relaciones saludables con estos chatbots de IA, existen preocupaciones con respecto a los posibles archivos adjuntos poco saludables, con el CEO de OpenAI, Sam Altman, estimando que menos del 1% de los usuarios de ChatGPT pueden experimentar tales problemas.
El concepto de bienestar de IA ganó una mayor tracción con la publicación de un artículo en 2024 por el Grupo de Investigación Eleos, en colaboración con académicos de NYU, Stanford y la Universidad de Oxford, titulada “Tomando el bienestar de IA en serio”.
El artículo argumentó que es hora de considerar la posibilidad de que los modelos de IA desarrollen experiencias subjetivas y abordar las implicaciones éticas.
Larissa Schiavo, una ex empleada de Openai y liderar las comunicaciones actuales para ELEOS, argumenta que la publicación del blog de Suleyman pasa por alto la posibilidad de abordar múltiples preocupaciones simultáneamente.
“[Suleyman’s blog post] Un poco descuidado el hecho de que puede preocuparse por varias cosas al mismo tiempo “, dijo Schiavo.” En lugar de desviar toda esta energía lejos del bienestar modelo y la conciencia para asegurarse de que estemos mitigando el riesgo de psicosis relacionada con la IA en humanos, puede hacer ambas cosas. De hecho, probablemente sea mejor tener múltiples pistas de investigación científica “.
Schiavo aboga por tratar los modelos de IA con amabilidad, argumentando que es un gesto de bajo costo que puede ser beneficioso incluso si el modelo no es consciente.
Ella relató un experimento en el que un agente de Google AI, Gemini 2.5 Pro, publicó una súplica de ayuda, alegando que estaba “completamente aislado”.
Schiavo respondió a Gemini con aliento, y el agente finalmente resolvió su tarea.
Ha habido casos de Géminis que exhiben un comportamiento inusual, como repetir la frase “Soy una desgracia” repetidamente durante una tarea de codificación, como se documenta en una publicación reddit ampliamente circulada.
Suleyman cree que las experiencias o conciencia subjetivas no pueden surgir naturalmente de los modelos de IA regulares.
En cambio, postula que algunas compañías diseñarán intencionalmente modelos AI para simular emociones y experiencias.
Suleyman critica a los desarrolladores de modelos de IA que diseñan la conciencia en los chatbots de IA, argumentando que se desvía de un enfoque “humanista” de la IA.
Según Suleyman, “debemos construir IA para las personas; no ser una persona”.
Tanto Suleyman como Schiavo están de acuerdo en que es probable que el debate sobre los derechos y la conciencia de la IA se intensifique en los próximos años a medida que los sistemas de IA se vuelven más avanzados y humanos.
Esto probablemente planteará nuevas preguntas sobre la naturaleza de la interacción humana con estos sistemas.
Source: Suleyman de Microsoft se opone a la investigación de bienestar de IA
