PINCHA AQUÍ PARA REVISAR NUESTRA COLECCIÓN DE IPADS
La inteligencia artificial volvió a quedar en el centro de la discusión mundial, pero esta vez por una situación que parece sacada de una sátira tecnológica. El gobierno de Sudáfrica decidió retirar oficialmente su primer borrador de política nacional sobre inteligencia artificial luego de descubrir que el documento incluía referencias académicas completamente falsas generadas por IA.
Sí: un texto pensado para regular los riesgos de la inteligencia artificial terminó cayendo justamente por uno de los problemas más conocidos de esta tecnología.
Según reportes publicados por medios especializados y replicados por plataformas de análisis tecnológico, el documento había sido elaborado por el Departamento de Comunicaciones y Tecnologías Digitales sudafricano y proponía medidas ambiciosas como la creación de una Comisión Nacional de IA y una Junta de Ética especializada. El problema apareció cuando periodistas y analistas detectaron que al menos 6 de las 67 referencias citadas simplemente no existían o correspondían a publicaciones inventadas por modelos de IA generativa.
El ministro de Comunicaciones, Solly Malatsi, reconoció públicamente el error y calificó la situación como un “lapso inaceptable”, asegurando que el contenido fue incorporado sin la debida supervisión humana. El caso rápidamente se volvió viral porque refleja uno de los grandes debates actuales del mundo tech: las llamadas “alucinaciones” de la inteligencia artificial, donde herramientas como ChatGPT y otros modelos generan información que parece real, pero que en realidad nunca existió.
El tema no es menor. Diversos estudios internacionales han advertido que los modelos de lenguaje pueden inventar citas, papers o datos cuando trabajan con temas muy específicos o poco documentados. Ecosistema Startup incluso menciona investigaciones donde cerca de dos tercios de las referencias generadas por IA en contextos especializados resultaron incorrectas o derechamente falsas.
En los últimos meses se han conocido casos de abogados sancionados por presentar documentos con jurisprudencia inexistente creada por IA, además de startups y empresas tecnológicas enfrentando problemas por confiar demasiado en contenido generado automáticamente sin validación humana.
Dejar un comentario
Este sitio está protegido por hCaptcha y se aplican la Política de privacidad de hCaptcha y los Términos del servicio.