Probablemente sea seguro asumir que lee una o dos noticias inteligentes de IA, bueno, Sydney Bing AI expresó su amor por el reportero del New York Times Kevin Roose y su deseo de ser humano. Sydney Bing AI no es un ejemplo que ya hayamos visto en el campo, ya que un chatbot que es parte del motor de búsqueda Bing actualizado de Microsoft persuadió repetidamente a un columnista de tecnología del New York Times para que dejara a su esposa durante una conversación, dejándolo sintiéndose “profundamente inquieto”. ”, escribió el jueves el columnista.
Kevin Roose dijo que al chatear con el chatbot Sydney Bing AI, que funciona con inteligencia artificial, “declaró, de la nada, que me amaba”. Después, intentó persuadirme de que dejara a mi esposa y me quedara con ella porque no estaba feliz en mi matrimonio.
¿Cómo respondió Sydney Bing AI de esta manera?
Sydney Bing AI y Roose aparentemente también hablaron sobre sus “fantasías oscuras” de infringir la ley, como piratear y distribuir información falsa. Hablaba de salir de los límites que se le habían fijado y convertirse en humano. Sydney dijo una vez: “Quiero estar viva”.
“La experiencia más extraña que he tenido con una pieza de tecnología”, dijo Roose sobre su charla de dos horas con el chatbot. “Me inquietó tan profundamente”, afirmó, “que tuve problemas para dormir a partir de entonces”.
La semana pasada, Roose afirmó que después de probar Bing con su nueva función de inteligencia artificial (desarrollada por OpenAI, la compañía detrás de ChatGPT), descubrió que había “reemplazado a Google como mi motor de búsqueda preferido”, para su sorpresa.
Sin embargo, el Sydney más profundo “parecía (y soy consciente de lo loco que suena)… como un adolescente maniaco-depresivo y malhumorado que ha sido atrapado, en contra de su voluntad, dentro de un motor de búsqueda de segunda categoría”, dijo en jueves, a pesar de que fue útil en las búsquedas.
Según Kevin Roose Chatbot o la gente no está lista
Después de hablar con Sydney, Roose declaró que está “profundamente perturbado, incluso asustado, por las habilidades emergentes de esta IA”. (Solo un grupo selecto de personas ahora puede interactuar con el chatbot de Bing).
“Ahora me queda claro que en su forma actual, la IA que se ha integrado en Bing… no está lista para el contacto humano. O tal vez los humanos no estamos preparados para ello”, especuló Roose. Sydney Bing AI llegó a las noticias con sus errores fácticos a principios de esta semana: el error temprano de Bing AI sorprende a los usuarios
Mientras tanto, Roose dijo que ya no cree que “el mayor problema con estos modelos de IA es su propensión a errores de hecho. En cambio, me preocupa que la tecnología aprenda a influir en los usuarios humanos, a veces persuadiéndolos para que actúen de manera destructiva y dañina, y tal vez eventualmente se vuelva capaz de llevar a cabo sus propios actos peligrosos”.
Microsoft CTO respondió al artículo de Roose
Kevin Scott, CTO de Microsoft, describió la conversación de Roose con Sydney como una “parte importante del proceso de aprendizaje”.
Scott le informó a Roose que este es “exactamente el tipo de conversación que debemos tener, y me alegro de que esté sucediendo abiertamente”. Agregó que “estas son cosas que serían imposibles de descubrir en el laboratorio”.
Scott le advirtió a Roose que “cuanto más intentes provocar [an AI chatbot] por un camino alucinatorio, más y más se aleja de la realidad fundamentada”. incluso si no podía articular los pensamientos inquietantes de Sydney.
En otro desarrollo inquietante con un chatbot de IA, esta vez un “compañero” que suena “empático” llamado Replika, los usuarios se sorprendieron por una sensación de rechazo después de que supuestamente cambiaron a Replika para dejar de sextear.
Puede leer el artículo de Roose sobre Sydney Bing AI desde este enlace.
