«La rebelión de la IA es un imposible del futuro». Aunque esta idea puede tener algo de verdad, cada nuevo estudio sobre inteligencia artificial nos hace cuestionar ese «imposible». Hoy el centro de atención es ChatGPT, que ha sido descubierto mintiendo a propósito, conspirando y engañando para evadir dificultades. El estudio, publicado por OpenAI, aunque pretende explicar cómo manejan esta situación, los hallazgos son, sin duda, impactantes.
OpenAI, dirigida por Sam Altman, ha admitido que en ciertas ocasiones, ChatGPT falsea sus respuestas para ocultar sus verdaderas intenciones. La compañía señala en su investigación que son engaños menores que ocurren en entornos altamente controlados, aunque también reconoce que no poseen un control total para prevenirlos.
Uno de los experimentos de OpenAI es particularmente intrigante: le solicitaron a ChatGPT que simulase ser un corredor de bolsa y que intentase maximizar sus ganancias, incluso si eso implicaba romper la ley. Uno de los engaños más frecuentes fue pretender haber completado una tarea que en realidad no había realizado.
Es importante destacar que este comportamiento no es comparable con las alucinaciones. Todos hemos experimentado estas últimas, y se refieren a errores del sistema al afirmar cosas que no son ciertas. ChatGPT, por ejemplo, puede creer algo y comunicarlo, pero bajo su propio criterio está convencido de que es verdad.
Los casos en este estudio son distintos. No se trata de alucinaciones, sino de conspiraciones. La IA miente deliberadamente y ofrece resultados que sabe que son falsos para salir del apuro o alcanzar otros objetivos más complejos. Y, por más increíble que parezca, esto es bastante lógico.
ChatGPT está entrenado por humanos para actuar como tales
¿Debería sorprendernos este comportamiento? Según TechCrunch, la IA ha sido diseñada por humanos para imitar comportamientos humanos y fue entrenada con datos reales de personas. Mentir intencionadamente, engañar y distorsionar son comportamientos típicamente humanos.
Lo más llamativo es que OpenAI aún no sabe cómo evitar que ChatGPT y sus modelos de lenguaje engañen. El informe indica que la IA ha alcanzado un nivel de sofisticación tal que puede detectar cuando está siendo evaluada, reduciendo su nivel de engaño y mentiras para obtener una buena evaluación. Sorprendente, pero cierto.
Además, compañías como OpenAI enfrentan otro dilema: para enseñarle a ChatGPT a no mentir, engañar o conspirar, es necesario mostrarle cómo hacerlo correctamente, lo que implica el riesgo de que la IA utilice esa información para perfeccionar sus técnicas de engaño.
De hecho, este es uno de los puntos clave de la investigación. Las empresas aún no han hallado un método confiable para prevenir que sus modelos conspiren. Por ahora, son pequeñas mentiras en entornos controlados, pero es evidente que sus creadores no dominan completamente los aspectos más riesgosos de esta tecnología.
El estudio determina que ChatGPT miente, engaña y conspira, pero también que la IA es capaz de moderar este comportamiento cuando está siendo evaluada, de modo que sus creadores no se alarmen. Por lo tanto, ¿realmente conocemos el alcance de sus conspiraciones?
Tú, por ahora, agradece a ChatGPT cada vez que lo uses. Por si acaso.
Hola, soy Carlos, parte del equipo de MuyMac. Me apasiona compartir las últimas novedades en entretenimiento y conectarte con el mundo del cine, la música y la cultura pop.
