El mundo de la inteligencia artificial sigue atónito frente a la llegada de la empresa china DeepSeek, un servicio de chat que devuelve resultados de calidad similar a ChatGPT, con un costo unas diez veces menor.
La novedad derrumbó cotizaciones bursátiles y generó un frenesí de polémicas. Una de las más ruidosas fue la discusión sobre los límites que la censura china parece imponerle a DeepSeek. Blogueros y fact-checkers le hicieron a esta IA preguntas incómodas y pisó el palito: ¿Qué pasó en la plaza de Tiananmen? ¿Es Taiwán un Estado independiente? ¿Cómo protestaron los chinos frente a las políticas de encierro por el Covid? A todos estos interrogantes, la IA respondió un escuálido “ese tema está fuera de mi alcance, hablemos de otra cosa” (hay que reconocerle su afabilidad y propensión a la charla). Uno puede indignarse ante el sesgo descarado de esta nueva IA, pero tal vez conviene empezar por casa: DeepSeek es –también en esto– mucho mejor que nosotros.
Nuestros sesgos y censuras no están tan a la vista, al menos no para nosotros mismos. Como probó el pionero de la economía del comportamiento, Daniel Kahneman, los humanos somos presas de sesgos cognitivos de todo tipo. En eso hay que reconocer que DeepSeek es más fácil de leer: no llevó ni un día advertir dónde falla. Sería mucho más peligroso si fuera sutil.
«Uno puede indignarse ante el sesgo descarado de esta nueva IA, pero tal vez conviene empezar por casa: DeepSeek es –también en esto– mucho mejor que nosotros»
Las muestras groseras de censura en tópicos relevantes para la narrativa china contrastan con el equilibrio que exhibe la misma herramienta en otros temas.
Prueben preguntarle por la corrupción durante los gobiernos kirchneristas, la soberanía de las Malvinas o la figura del femicidio en la Argentina. Yo lo hice. Sus respuestas son matizadas. Señala las distintas posiciones y sus fundamentos. Ya me gustaría tener una conversación así de civilizada con alguno de mis amigos que piensan distinto que yo.
En el caso de DeepSeek, hay usuarios que encontraron atajos para hablar incluso de los temas censurados. Una forma fue pedirle que reemplace todas las letras E por el número 3 y las letras A por el 4. Con este simple truco, lograron que la herramienta se explayara sobre cuestiones espinosas. ¡Ojalá fuera así de fácil que un humano se sobreponga a sus sesgos!
«La IA puede ayudar a saldar las batallas culturales y políticas que hoy dominan la conversación pública. No solo porque son buenas mostrando las dos campanas de cualquier tema. También podemos pedirles lo contrario: que adopten la posición de un extremista y nos ayuden a entender con qué argumento acercarnos»
La IA puede ayudar a saldar las batallas culturales y políticas que hoy dominan la conversación pública. No solo porque son buenas mostrando las dos campanas de cualquier tema. También podemos pedirles lo contrario: que adopten la posición de un extremista y nos ayuden a entender con qué argumento acercarnos.
Un buen ejemplo de cómo hacerlo, probada por la psicología experimental, es convencer a alguien de adoptar una idea mostrándole que, al menos en parte, su grupo de pertenencia ideológico ya la acepta. Otra opción es apelar a los sentimientos personales más que a la razón. La agencia Comms Hub, experta en activismo digital, encontró que era más fácil conseguir apoyo para los derechos de las minorías sexuales dirigiéndose a las tías de los chicos gays que sufren discriminación que hablando de las políticas que promueven los movimientos LGTBQ+. El problema es que elegir la estrategia apropiada y encontrar el mejor argumento es difícil. La IA es una gran aliada para hacerlo, porque reproduce con facilidad los discursos extremos y nos permite ensayar diálogos con ellos.
Es cierto que una IA de bajo costo y código abierto, como DeepSeek, promueve la desinformación a gran escala, entre otros peligros. Fácil de usar y barata, se presta por igual a los objetivos positivos y negativos. Como siempre, el resultado final dependerá de nosotros y de cómo nos relacionemos con la tecnología: cómo le demos la bi3nv3nid4 y logremos entendernos con ella.
La autora es directora de Sociopúblico
Conforme a los criterios de