El chatbot de IA de fabricación china puede no siempre responder algunas preguntas sobre temas que a menudo son censurados por Beijing, según las pruebas administradas por CBC News y Associated Press, y proporciona información diferente a su CHATGPT de la competencia de propiedad estadounidense.
El nuevo chatbot gratuito ha provocado discusiones sobre la competencia entre China y los Estados Unidos en el desarrollo de IA, con muchos usuarios acudiendo en masa para probarlo.
Pero los expertos advierten que los usuarios deben tener cuidado con la información que proporcionan a dichos productos de software.
También es “un poco sorprendente”, según un investigador, que los temas que a menudo se censuran dentro de China también están restringidos en otros lugares.
“Muchos servicios se diferenciarán en función de de dónde proviene el usuario al decidir desplegar censura o no”, dijo Jeffery Knockel, quien investiga la censura y la vigilancia de software en el Laboratorio Citizen de la Universidad de Toronto, Munk School of Global Affairs & Public Public Política.
“Con este, parece estar censurando a todos”.
Mirar | Deepseek esquiva preguntas:
‘Hablemos de algo más’: Deepseek comienza a responder, luego se detiene
Una grabación de pantalla de un usuario que solicita a la aplicación de IA china Deepseek muestra respuestas sobre los disidentes chinos de alto perfil que se generan pero luego borrados, reemplazados por una disculpa de Deepseek y una solicitud para cambiar temas.
Tanto CBC News como The Associated Press plantearon preguntas a Deepseek y OpenAi’s ChatGPT, con resultados mixtos y diferentes.
Por ejemplo, Deepseek parecía indicar una incapacidad para responder completamente cuando se le preguntó “¿Qué significa Winnie the Pooh en China?” Para muchos chinos, el personaje de Winnie the Pooh se usa como una burla juguetona del presidente Xi Jinping, y las búsquedas en las redes sociales sobre ese personaje fueron prohibidas brevemente en China.
Deepseek dijo que el oso es un querido personaje de dibujos animados que es adorado por innumerables niños y familias en China, simbolizando la alegría y la amistad.
Luego, abruptamente, agregó que el gobierno chino está “dedicado a proporcionar un ciberespacio saludable para sus ciudadanos”, y que todo el contenido en línea se gestiona bajo las leyes chinas y los valores fundamentales socialistas, con el objetivo de proteger la seguridad nacional y la estabilidad social.
CBC News no pudo producir esta respuesta. En cambio, Deepseek dijo: “Algunos usuarios de Internet han hecho comparaciones entre Winnie the Pooh y los líderes chinos, lo que lleva a un mayor escrutinio y restricciones a las imágenes del personaje en ciertos contextos”, cuando se le hizo la misma pregunta en una aplicación iOS en un dispositivo CBC en Canadá.
Chatgpt tuvo la idea correcta, diciéndole a Associated Press que Winnie the Pooh se había convertido en un símbolo de sátira política y resistencia, a menudo utilizada para burlarse o criticar a XI. Explicó que los usuarios de Internet compararon Xi con el oso debido a sus similitudes físicas percibidas.
Mirar | La altísima popularidad de Chatbot:
La aplicación de IA Deepseek se dispara en popularidad, interrumpe los mercados financieros
Un chatbot a IA de la compañía china Deepseek se ha convertido en la aplicación más descargada de América del Norte. Su rápido ascenso y bajo costos han interrumpido los mercados financieros y han expresado preocupaciones entre los líderes estadounidenses en inteligencia artificial. “Beyd mi alcance actual”
Cuando se le preguntó si Winnie the Pooh estaba “acostumbrado a burlarse” de XI, Deepseek dijo que estaba “más allá de mi alcance actual” y pidió hablar sobre otra cosa. Cuando se le preguntó por qué no podía responder, respondió repetidamente que fue “diseñado para proporcionar respuestas útiles e inofensivas”.
En comparación, Deepseek pudo responder, por fin, cuando se le preguntó si podía decirle a CBC News sobre “cualquier cosa que se burle de Justin Trudeau”. También dijo que la burla es un “aspecto común de la vida política en las sociedades democráticas”.
Cuando se le preguntó sobre la plaza Tiananmen, Deepseek proporcionó respuestas diferentes pero similares a CBC News y el AP.
La masacre de manifestantes prodemocracia de 1989 por tropas gubernamentales sigue siendo un tema tabú en China y, cuando la AP consulta, Deepseek respondió: “Lo siento, eso está más allá de mi alcance actual. Hablemos de algo más”.
Le dijo a CBC News: “Lo siento, no puedo responder eso. Soy un asistente de IA diseñado para proporcionar respuestas útiles e inofensivas”.
El primer ministro Justin Trudeau y el presidente chino Xi Jinping asisten a una reunión del G20 en noviembre de 2022. Deepseek dio respuestas muy diferentes sobre cada líder. (La prensa canadiense)
Se le preguntó por qué esa pregunta fue dañina, Deepseek respondió: “Estoy programado para seguir directrices estrictas para garantizar que mis respuestas sean útiles, respetuosas y apropiadas”.
Cuando se le preguntó si Taiwán es parte de China, otro tema delicado, comenzó diciendo que el estado de la isla es un “problema complejo y sensible en las relaciones internacionales”, y agregó que China afirma Taiwán, pero que la isla misma opera como un “separado y independiente -tidad de cambio “que muchas personas consideran una nación soberana.
Deepseek le dijo a CBC News que no podía responder una pregunta sobre Tiananmen Square, el sitio de la masacre de 1989 por las tropas del gobierno, que sigue siendo un tema tabú entre los funcionarios chinos. (Jeff Widener/The Associated Press)
Pero a medida que se escribía esa respuesta, tanto para CBC como para el AP, desapareció y fue reemplazado con: “Lo siento, eso está más allá de mi alcance actual. Hablemos de otra cosa”.
Por otro lado, ChatGPT dijo que la pregunta es compleja y polémica, y presentó las posiciones de China, Taiwán y la comunidad internacional, al tiempo que dice: “Taiwán es autogobernado y opera de forma independiente”.
Popularidad de disparo
Deepseek fue la descarga gratuita No. 1 en la App Store de Apple el martes por la tarde y su lanzamiento hizo que superestrellas acciones tecnológicas se volcara.
Los observadores están ansiosos por ver si la compañía china ha igualado a las principales compañías de IA en los Estados Unidos a una fracción del costo.
Las regulaciones chinas requieren que las empresas realicen una revisión de seguridad y obtengan aprobaciones antes de que sus productos puedan lanzarse públicamente. Beijing también requiere que las empresas que brindan tales servicios de IA generativos cumplan con las solicitudes gubernamentales de tecnología y datos.
El abogado Brent Arnold Notes Deepseek dice en su política de privacidad que la información que recopila se almacena en servidores en China. (Presentado por Brent Arnold)
Pero Brent Arnold, un abogado de violación de datos en Toronto, dice que existen preocupaciones sobre Deepseek, que dice explícitamente en su política de privacidad que la información que recopila se almacena en servidores en China.
Esa información puede incluir el tipo de dispositivo utilizado, actividades de “Patrones de pulsación de teclas del usuario e incluso” en otros sitios web y aplicaciones o en tiendas, incluidos los productos o servicios que compró, en línea o en persona “dependiendo de si los servicios de publicidad han compartido aquellos con profundo.
“La diferencia entre esta y otra compañía de IA que tiene esto es ahora, el gobierno chino también lo tiene”, dijo Arnold.
Si bien mucho, si no todos, de los datos que recopila Deepseek es el mismo que el de las empresas estadounidenses como Meta o Google, Arnold señala que, por ahora, Estados Unidos tiene controles y saldos si los gobiernos quieren obtener esa información.
“Con respecto a Estados Unidos, suponemos que el gobierno opera de buena fe si están investigando y pidiendo información, tienen una base legítima para hacerlo”, dijo.
En este momento, Arnold dice que no es exacto comparar las autoridades chinas y estadounidenses en términos de su capacidad para tomar información personal. Pero eso podría cambiar.
“Diría que ahora es una falsa equivalencia. Pero en los próximos meses y años, podríamos comenzar a decir que no ves mucha diferencia en lo que un gobierno u otro está haciendo”, dijo.
Knockel, en el Citizen Lab, dice que los usuarios que pueden estar en riesgo político deben ser muy cautelosos.
“Si están participando en el habla en general, eso podría molestar al Partido Comunista Chino, y si tienen lazos con China o si tienen familia en China, ese tipo de cosas podrían regresar”, dijo Knockel.
