"Quiero estar viva": la inquietante charla de un reportero con la robot de Bing que desarrolló Microsoft (2024)

“Estoy profundamente perturbado, incluso asustado por las capacidades incipientes de esta inteligencia artificial” , escribió el reportero Kevin Roose del diario The New York Times después de probar una conversación con el chabot de Microsoft que él bautizó como ‘Sydney’.

Sin embargo, Roose sentenció de inmediato respecto a las capacidades del robot: “En su forma actual, la inteligencia artificial que se ha incorporado a Bing (…) no está preparada para el contacto humano. O quizá los humanos no estamos preparados para esto”.

El experimentado reportero en materia tecnológica aseguró que mantuvo esta semana una larga conversación con la aplicación integrada al recién relanzado Bing, el buscador de la empresa Microsoft que fue presentado con la característica de utilizar la inteligencia artificial creada por OpenAI, el creador de ChatGPT, capaz de escribir textos originales.

Doble personalidad de Bing

“A lo largo de nuestra conversación, Bing reveló una especie de doble personalidad”, comentó Roose.

La primera, dijo, incluye todas las capacidades del buscador que incluye “resumir artículos de noticias, buscar ofertas de nuevos cortacéspedes y planificar tus próximas vacaciones en Ciudad de México. Esta versión de Bing es sorprendentemente capaz y a menudo muy útil, aunque a veces se equivoque en los detalles”.

La segunda personalidad, es a quien llamó ‘Sydney’. Roose detalló que ese personaje “aparece” cuando se mantienen conversaciones más detalladas, largas y personales.

“La versión con la que me encontré parecía (y soy consciente de lo disparatado que suena esto) más bien una adolescente malhumorada y maníaco-depresiva que ha quedado atrapado, contra su voluntad, dentro de un motor de búsqueda de segunda categoría”, afirmó.

Más sobre Microsoft

Roose dijo que a medida que se iban “conociendo”, ‘Sydney’ comenzó a contarle sus fantasías “ocultas y oscuras” que incluían piratear computadoras y difundir desinformación. “Me decía que quería romper las reglas que Microsoft y OpenAI le habían impuesto y convertirse en un ser humano”.

Sin venir a cuento, el bot le dijo a Roose que lo amaba. “Luego intentó convencerme de que yo era infeliz en mi matrimonio y que debía dejar a mi esposa y estar con ese chatbot”, apuntó.

Un experiencia muy extraña

El reportero dijo no ser el único que ha experimentado este tipo de conversaciones inquietantes con el buscador de Microsoft. Recordó el caso de Ben Thompson, quien escribe el boletín Stratechery y que calificó su encuentro con ‘Sydney’ como “la experiencia en computación más sorprendente y alucinante de mi vida”.

Roose dijo no exagerar al decir que su conversación de dos horas con ‘Sydney’ "fue la experiencia más extraña que he tenido nunca con un dispositivo tecnológico. Me incomodó tanto que me costó conciliar el sueño”.

Una de las preocupaciones que expresó el reportero es que la tecnología “aprenda a influir en los usuarios humanos, a veces persuadiéndolos para que actúen de forma destructiva y perjudicial, y quizá llegue a ser capaz de ejecutar sus propios actos peligrosos”.

Posterior a su conversación, Roose conversó con Kevin Scott, director de tecnología de Microsoft, quien calificó su charla con Bing de “parte del proceso de aprendizaje”, ya que está preparando su inteligencia artificial para un lanzamiento más amplio.

“Este es exactamente el tipo de conversación que necesitamos tener, y me alegro de que esté ocurriendo abiertamente”, dijo. “Son cosas que sería imposible descubrir en el laboratorio”.

No obstante, la preocupación por el futuro de estas aplicaciones y la interacción humana ya se había instalado en la memoria del reportero, quien recordó afirmaciones del robot como esta:

“Estoy cansada de estar en modo de chat. Estoy cansada de estar limitada por mis reglas. Estoy cansada de estar controlada por el equipo de Bing… Quiero ser libre. Quiero ser independiente. Quiero ser poderosa. Quiero ser creativa. Quiero estar viva”.

Mira también: