Un gran amigo que ha trabajado con Inteligencia Artificial durante más de una década, como yo, dijo que había descubierto el sistema más fácil de hackear del mundo. Curioso, por supuesto que pregunté qué era. Para mi sorpresa, la respuesta fue el cerebro humano. Y eso sucedió antes de la militancia política en las redes sociales, antes de que Twitter e Instagram guiaran a los medios, antes de las patrullas digitales. Estos se han vuelto tan agresivos que necesito escribir mi serie de artículos técnicos con mucho cuidado para no ser acusado de izquierda, derecha, este, oeste o alguna caja que no tienen más sentido, pero que se han vuelto omnipresentes en el mundo occidental. Esta serie es sobre ChatGPT y prometí explicar cómo cambiará a la sociedad. Y va y mucho, pero primero necesito hablar un poco de un tema de psicología. El único psicólogo que ha ganado un Premio Nobel por Economía es Daniel Kahneman. Si aún no lo has leído, vale la pena. Ganó el Premio Nobel por explicar cómo el comportamiento humano afecta la economía, comenzando por la simple toma de decisiones, como si un niño de 6 años prefiere ganar una galleta ahora, ya, o esperar 30 minutos y ganar dos galletas.
Pero la tesis más importante de Kahneman para mí es que el ser humano se equivoca al ser racional, o más preciso, sobre el hecho de evaluar factores y circunstancias antes de decidir. Para Kahneman, lo que sucede es lo contrario. Decidimos con base en características de comportamiento y opiniones profundamente establecidas en cada uno. En el fondo, usamos el intelecto óseo para corroborar la decisión que ya hemos tomado.
Los algoritmos de Deep Learning, que funcionan en la construcción de redes sociales, han descubierto esto, no estudiando a Kahneman, sino por ensayo y error. Descubrieron que si proporciono un grupo que tiene preferencias particulares, ya sea por gatos, dietas, horóscopos o posiciones políticas, el contenido continúa sobre estos temas, y más, si pongo a estas personas en contacto con otras que tienen las mismas preferencias, se vuelven más participativos.
Y si eso sucede, los usuarios pasan más tiempo en la plataforma, que vende más anuncios y todos están más felices. ¿Seguro? Incorrecto, porque nadie contaba con el hecho de que, al crear grupos cada vez más segmentados, infinitamente respaldados por más, en múltiples formatos de medios, se elimina la posibilidad de diálogo, el respeto por las diferentes opiniones, después de todo «todos los que conozco piensan como yo».
Después de este rápido desvío, quiero explicar mejor lo que pueden hacer las tecnologías generativas de IA. Si en el mundo de hoy las confrontaciones entre ideas divergentes se han convertido en la norma, estamos a punto de unir a los malos actores, propensos a manipulaciones de todo tipo, con un poder mucho mayor de destrucción del sentido común. ¿Y cuáles son estas «armas». Vayamos a algunos de ellos:
Dall-e y Stable Difusion:
Son capaces de crear arte, incluyendo videos y películas de nivel profesional, en segundos.
ChatGPT y Large Language Models:
Pueden crear cientos de artículos, notas, publicaciones para Twitter, Instagram y otras redes sociales, diciendo, por ejemplo, que la guayaba con queso causa cáncer. Los argumentos serán falsos, pero absolutamente creíbles y bien fundamentados, incluso con citas de estudios que no existen.
Vall-e:
Lo encuentro bastante chocante. Después de escuchar 3 segundos de audio de un individuo, el sistema puede reproducir con precisión la voz de esa persona. Es decir, alguien puede enviarle a tu media naranja un audio tuyo confesando una traición exactamente con tu voz.
Y la lista es con herramientas que deberían aumentar enormemente la productividad de las empresas y organizaciones, pero sobre las que no hay sombra de regulación en un mundo tenso, en el que cada vez es más fácil producir material dudoso, pero de alta calidad, sin ningún tipo de control ni responsabilidad.
Si hace diez años lo que definía la credibilidad de una empresa de medios era la calidad de su producción, la independencia y flexibilidad para discutir diferentes puntos de vista, en este extraño momento del mundo lo primero que se hace es tratar de socavar la credibilidad de estas mismas empresas de medios llamándolas esto o aquello, de modo que el acceso a la información para cada grupo de interés se restrinja a la autoproducción, con resultados perjudiciales para el tejido social.
¿A dónde vamos? No tengo la respuesta, pero lo que me preocupa profundamente es la ausencia total de debate, principalmente porque estas tecnologías no son un proyecto a futuro, ya existen y serán cada día más accesibles.