El gobierno de Sud\u00e1frica public\u00f3 el 10 de abril de 2026 en el Bolet\u00edn Oficial su borrador de pol\u00edtica nacional de IA para consulta p\u00fablica. Diecis\u00e9is d\u00edas despu\u00e9s, el 26 de abril, el Ministerio de Comunicaciones y Tecnolog\u00edas Digitales lo retir\u00f3. La raz\u00f3n es tan ir\u00f3nica como aleccionadora: el documento regulatorio sobre el uso responsable de la inteligencia artificial conten\u00eda referencias acad\u00e9micas generadas por inteligencia artificial que no existen. Lo cubre TechSpot bas\u00e1ndose en la confirmaci\u00f3n del ministro Solly Malatsi.<\/p>\n
Al menos seis de las 67 citas del borrador apuntan a art\u00edculos acad\u00e9micos, revistas o autores que no existen. Son alucinaciones cl\u00e1sicas de un modelo de lenguaje: referencias plausibles en formato \u2014t\u00edtulo, autor, a\u00f1o, revista\u2014 pero totalmente ficticias en contenido. El ministro Malatsi fue directo en su comunicado: los contenidos IA se incluyeron sin verificaci\u00f3n humana, lo que \u00abno deber\u00eda haber pasado\u00bb, y habr\u00e1 medidas disciplinarias para los responsables del borrado y control de calidad.<\/p>\n
El documento era la primera pol\u00edtica nacional de IA de Sud\u00e1frica, un pa\u00eds que aspira a posicionarse como el hub tecnol\u00f3gico de \u00c1frica. Inclu\u00eda propuestas para crear tres organismos nuevos: una comisi\u00f3n nacional de IA, una junta de \u00e9tica de IA y una autoridad regulatoria de IA. Tambi\u00e9n detallaba incentivos fiscales, subvenciones y desgravaciones para atraer inversi\u00f3n privada en infraestructura de IA. El Gabinete lo hab\u00eda aprobado el 25 de marzo y el 1 de abril.<\/p>\n
La detecci\u00f3n de las referencias falsas la realizaron grupos de derechos civiles \u2014principalmente Article One\u2014 y periodistas de investigaci\u00f3n que revisaron la bibliograf\u00eda del documento. Las citas no solo apuntaban a art\u00edculos inexistentes sino que atribu\u00edan investigaciones relevantes a acad\u00e9micos reales que nunca hab\u00edan escrito sobre esos temas. Una variante particularmente da\u00f1ina: otorgar autoridad aparente a afirmaciones pol\u00edticas falsas usando nombres de investigadores con credibilidad real.<\/p>\n
La crisis no se qued\u00f3 en el Ministerio de Comunicaciones. Tras el esc\u00e1ndalo, investigadores encontraron m\u00e1s de 100 referencias no rastreables en un Libro Blanco revisado del Departamento de Interior sobre ciudadan\u00eda e inmigraci\u00f3n, lo que llev\u00f3 a nuevas suspensiones de funcionarios y a una auditor\u00eda gubernamental de todos los documentos de pol\u00edtica producidos desde el lanzamiento de ChatGPT en 2022.<\/p>\n
Sud\u00e1frica no es el primer gobierno en tropezar con este problema. Un abogado y cient\u00edfico de datos que mantiene una base de datos p\u00fablica de casos relacionados ten\u00eda registrados m\u00e1s de 900 casos judiciales en EE.UU. donde abogados hab\u00edan presentado escritos con referencias a sentencias inexistentes generadas por IA, antes de que se a\u00f1adieran los cuatro casos previos en Sud\u00e1frica. La diferencia es de escala: un escrito jur\u00eddico con referencias falsas puede desestimarse; una pol\u00edtica nacional con referencias falsas compromete la legitimidad de todo el proceso regulatorio.<\/p>\n
El problema espec\u00edfico de usar IA para redactar pol\u00edtica p\u00fablica es que los modelos de lenguaje son muy buenos generando textos con apariencia de autoridad: vocabulario t\u00e9cnico correcto, estructura acad\u00e9mica, tono oficial. Son mucho menos fiables cuando se trata de citar fuentes reales, porque los modelos de lenguaje no \u00absaben\u00bb qu\u00e9 art\u00edculos existen; generan lo que les parece plausible bas\u00e1ndose en patrones de texto, no en bases de datos bibliogr\u00e1ficas verificadas.<\/p>\n
El ministro Malatsi dio la respuesta correcta: \u00abesto demuestra por qu\u00e9 la supervisi\u00f3n humana vigilante sobre el uso de la IA es fundamental.\u00bb La pregunta es si ese principio se convertir\u00e1 en proceso concreto \u2014verificaci\u00f3n bibliogr\u00e1fica humana obligatoria antes de publicar cualquier documento de pol\u00edtica\u2014 o quedar\u00e1 como declaraci\u00f3n de intenciones.<\/p>\n
Para entender por qu\u00e9 la regulaci\u00f3n de IA en EE.UU. sigue caminos muy distintos, el an\u00e1lisis sobre la estrategia de Trump de est\u00e1ndar federal \u00fanico de IA y la preempci\u00f3n de leyes estatales ilustra bien el contraste: mientras EE.UU. desregula a nivel estatal, Sud\u00e1frica intent\u00f3 regular y tropez\u00f3 con su propia herramienta. Ni la desregulaci\u00f3n irresponsable ni la regulaci\u00f3n con IA sin supervisi\u00f3n son modelos exportables.<\/p>\n
Llevo cubriendo la irrupci\u00f3n de la IA en administraciones p\u00fablicas desde 2023, y el caso de Sud\u00e1frica me parece el ejemplo m\u00e1s pedag\u00f3gico de lo que sucede cuando se da a la IA el rol de autor sin reservarse el rol de revisor.<\/p>\n
Lo que m\u00e1s me convence de la respuesta del ministro Malatsi es la honestidad: no minimiz\u00f3 el fallo, lo llam\u00f3 por su nombre y anunci\u00f3 consecuencias. Lo que m\u00e1s me preocupa es la auditor\u00eda posterior: si hay m\u00e1s de 100 referencias no rastreables en otro documento del mismo gobierno, el problema no es accidental sino sist\u00e9mico. Un ministerio que usa IA para redactar sin protocolos de verificaci\u00f3n no comete un error puntual; tiene una cultura de trabajo que necesita redise\u00f1arse de ra\u00edz.<\/p>\n
La pregunta a 12 meses no es si Sud\u00e1frica publicar\u00e1 una nueva pol\u00edtica de IA \u2014lo har\u00e1\u2014, sino si otros gobiernos actualizar\u00e1n sus procesos de redacci\u00f3n antes de sufrir un esc\u00e1ndalo similar. Los incentivos para que los funcionarios usen IA para acelerar la redacci\u00f3n de documentos son reales; los protocolos de verificaci\u00f3n son costosos y ralentizan el proceso. Sin un mandato expl\u00edcito, muchos optar\u00e1n por la velocidad hasta que la siguiente alucinaci\u00f3n se haga p\u00fablica.<\/p>\n
Las alucinaciones bibliogr\u00e1ficas son referencias acad\u00e9micas generadas por un modelo de IA que tienen la forma correcta \u2014autor, t\u00edtulo, revista, a\u00f1o\u2014 pero apuntan a art\u00edculos, revistas o investigadores que no existen o que nunca escribieron sobre ese tema. En el caso de Sud\u00e1frica, al menos seis de las 67 citas del borrador de pol\u00edtica de IA ca\u00edan en esa categor\u00eda, detectadas al intentar verificar las fuentes originales.<\/p>\n
El ministro Malatsi anunci\u00f3 \u00abmedidas disciplinarias\u00bb para quienes fueron responsables de la redacci\u00f3n y del control de calidad del documento. El Departamento de Interior tambi\u00e9n suspendi\u00f3 a dos funcionarios de alto rango tras detectarse referencias similares en un Libro Blanco sobre ciudadan\u00eda. El gobierno lanz\u00f3 una auditor\u00eda de todos los documentos de pol\u00edtica producidos desde 2022.<\/p>\n
S\u00ed, seg\u00fan las declaraciones del ministro. La intenci\u00f3n es revisar el borrador, eliminar las referencias falsas y volver a publicarlo para consulta p\u00fablica. El ministro no dio un calendario. La mayor parte de las propuestas de fondo \u2014comisi\u00f3n de IA, junta de \u00e9tica, autoridad regulatoria, incentivos fiscales\u2014 se espera que se mantengan en la versi\u00f3n revisada.<\/p>\n","protected":false},"excerpt":{"rendered":"
El gobierno de Sud\u00e1frica public\u00f3 el 10 de abril de 2026 en el Bolet\u00edn Oficial su borrador de pol\u00edtica nacional de IA para consulta p\u00fablica. Diecis\u00e9is d\u00edas despu\u00e9s, el 26 de abril, el Ministerio de Comunicaciones y Tecnolog\u00edas Digitales lo retir\u00f3. La raz\u00f3n es tan ir\u00f3nica como aleccionadora: el documento regulatorio sobre el uso responsable de la inteligencia artificial conten\u00eda referencias acad\u00e9micas generadas por inteligencia artificial que no existen. Lo cubre TechSpot bas\u00e1ndose en la confirmaci\u00f3n del ministro Solly Malatsi. Al menos seis de las 67 citas del borrador apuntan a art\u00edculos acad\u00e9micos, revistas o autores que no existen. Son alucinaciones cl\u00e1sicas de un modelo de lenguaje: referencias plausibles en formato \u2014t\u00edtulo, autor, a\u00f1o, revista\u2014 pero totalmente ficticias en contenido. El ministro Malatsi fue directo en su comunicado: los contenidos IA se incluyeron sin verificaci\u00f3n humana, lo que \u00abno deber\u00eda haber pasado\u00bb, y habr\u00e1 medidas disciplinarias para los responsables del borrado y control de calidad. El documento era la primera pol\u00edtica nacional de IA de Sud\u00e1frica, un pa\u00eds que aspira a posicionarse como el hub tecnol\u00f3gico de \u00c1frica. Inclu\u00eda propuestas para crear tres organismos nuevos: una comisi\u00f3n nacional de IA, una junta de \u00e9tica de IA y una autoridad regulatoria …<\/p>\n","protected":false},"author":1,"featured_media":6167,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[9],"tags":[],"class_list":["post-6166","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-noticias"],"acf":[],"yoast_head":"\n