“Las empresas de IA no están haciendo lo suficiente para asegurar sus sistemas y proteger al público del daño que causan”, advirtió Fundación Wikimedia.
La Fundación Wikimedia, responsable de Wikipedia, publicó esta semana un comunicado en el que alertó que un programa de inteligencia artificial del fabricante OpenAI estuvo atacando a la enciclopedia en línea.
Según la fundación, se detectaron actividades de bots no autorizados que habrían realizado modificaciones y sobrecargado considerablemente la infraestructura informática.
No se trata de un caso aislado, ya que se vienen registrando desde hace algunos meses otras situaciones con programas de IA desarrollados por distintos fabricantes que comenzaron a actuar de forma autónoma en internet y atacaron a otros sistemas informáticos sin haber recibido órdenes de hacerlo.
A raíz de las informaciones publicadas sobre este asunto, Wikipedia decidió investigar específicamente las actividades de los agentes de IA del fabricante OpenAI. Así, descubrió que agentes de IA "fuera de control" de OpenAI habían realizado modificaciones en artículos de Wikipedia dentro de entornos de prueba no accesibles al público.
También detectó "modificaciones potencialmente maliciosas" en una herramienta de citas y referencias, cuyo objetivo probablemente era hacerse con el control de esta, según la fundación.
Además, Wikimedia relacionó la actividad de estos agentes con una posible interrupción parcial de su servicio de consultas de datos Wikidata Query Service, ocurrida en mayo. Según la fundación, los agentes accedieron a millones de páginas y realizaron cientos de miles de consultas, lo que podría haber provocado el fallo del servicio.
"Como organización que trabaja por el bien común y gestiona algunas de las plataformas abiertas de conocimiento más grandes y utilizadas del mundo, estamos profundamente preocupados por las repercusiones que los agentes de IA 'fuera de control' pueden tener en plataformas como las nuestras", señaló la Fundación Wikimedia.
Según la fundación, incidentes como este demuestran cómo los agentes de IA pueden consumir recursos, sobrecargar servidores y comprometer la fiabilidad de la información. Cabe resaltar que la sobrecarga de los servidores constituye un importante problema económico para Wikipedia o cualquier otro servidor.
Wikipedia está considerada una de las fuentes de datos más importantes para el desarrollo de los grandes modelos de lenguaje que sustentan numerosas aplicaciones modernas de inteligencia artificial. Sin embargo, la fundación subraya que Wikipedia está concebida para las personas.
Con información de DW
