La BBC emitió un informe de febrero que encontró “inexactitudes significativas” con resúmenes de noticias generados a partir de motores de inteligencia artificial (IA), incluidos los chatgpt de OpenAi, el copiloto de Microsoft, el Géminis de Google y la IA de perplejidad.
“Las respuestas producidas por los asistentes de IA contenían inexactitudes significativas y contenido distorsionado de la BBC”, escribió The Outlet en su informe.
Sus hallazgos encontraron que el 51 por ciento de todas las respuestas de IA a las preguntas sobre las noticias se consideró que tenía problemas significativos, incluido el fracaso para diferenciar entre hechos y opinión.
Diecinueve por ciento de las respuestas de IA que citó el contenido de la BBC introdujeron errores de hecho: declaraciones fácticas incorrectas, números y fechas, mientras que el 13 por ciento de las citas procedentes de los artículos de la BBC se alteraron de la fuente original o no presente en el artículo citado.
“Esto es importante porque es esencial que el público pueda confiar en que las noticias sean precisas, ya sea en televisión, radio, plataformas digitales o a través de un asistente de IA”, declaró BBC en el informe.
“Importa porque la sociedad funciona en una comprensión compartida de los hechos, y la inexactitud y la distorsión pueden conducir a un daño real. Las inexactitudes de asistentes de IA pueden amplificarse fácilmente cuando se comparten en las redes sociales “.
Descubrieron que la IA de perplejidad alteró las declaraciones de una fuente citada en un artículo, mientras que Copilot usó un artículo de 2022 como su única fuente para un resumen de noticias además de otros errores evidentes.
Apple atendió la advertencia de la BBC deteniendo temporalmente una característica de IA que resume las notificaciones de noticias, después de que la salida los alertó sobre problemas graves.
La publicación espera promulgar un cambio similar al proponer tres próximos pasos para hacer frente a una creciente industria global. Esos pasos que incluyen centrarse en evaluaciones regulares, conversaciones constructivas con compañías de IA y aumentos de regulaciones para modelos de idiomas grandes.
Algunas figuras políticas han advertido contra imponer demasiadas regulaciones para la IA.
El vicepresidente Vance asistió a la Cumbre de Acción de Inteligencia Artificial en París y argumentó en contra de la “regulación excesiva”.
“Creemos que la regulación excesiva del sector de la IA podría matar una industria transformadora tal como está despegando”, dijo Vance el martes en París. “Y me gustaría ver ese sabor desregulador haciendo muchas de las conversaciones en esta conferencia”.
Deborah Turness, CEO de BBC News and Actual Affairs, argumentó que los funcionarios gubernamentales, los CEO de tecnología y los medios de comunicación deben unirse para resolver un problema en rápida evolución.
“Nos gustaría que otras compañías tecnológicas escuchen nuestras preocupaciones, tal como lo hizo Apple. Es hora de que trabajemos juntos (la industria de las noticias, las empresas tecnológicas) y, por supuesto, el gobierno también tiene un papel importante que desempeñar aquí “, escribió Turness en una publicación de blog del martes.
“Hay una conversación más amplia en torno a la regulación para garantizar que en esta nueva versión de nuestro mundo en línea, los consumidores aún puedan encontrar claridad a través de noticias e información precisas de las fuentes en las que saben que pueden confiar”.
Ella dijo que ganar la confianza de los lectores es su prioridad número uno como CEO.
“Y este nuevo fenómeno de distorsión, un hermano no deseado para la desinformación, amenaza con socavar la capacidad de las personas para confiar en cualquier información”, agregó Turness.
“Así que terminaré con una pregunta: ¿cómo podemos trabajar con urgencia para garantizar que esta tecnología naciente esté diseñada para ayudar a las personas a encontrar información confiable, en lugar de agregar al caos y la confusión? Nosotros en la BBC estamos listos para organizar la conversación “.
La colina contactó a OpenAi, Microsoft, Google y Perplexity AI para hacer comentarios.
