Las autoridades chinas han detenido recientemente a una persona por presuntamente usar ChatGPT con el fin de producir y difundir noticias falsas. Este arresto marca un hito en el país, ya que es la primera acción que se toma contra el mal uso de herramientas impulsadas por inteligencia artificial, según informaron las autoridades locales.
investigación y arresto
El Departamento de Seguridad Pública explicó que el 25 de abril se emitió un nuevo comunicado que aseguraba que “un tren había atropellado a trabajadores de la construcción en caminos en gansucobrando la vida de nueve personas”. Este hecho motivó una rápida investigación por parte del Policía de Seguridad en Internet.
Durante la primera fase de la investigación, se descubrió que el artículo en cuestión había sido publicado simultáneamente en veintiuna cuentas baijiahaouna plataforma similar a un weblog propiedad del gigante de Internet Buscar chino, Baidu.
Además de esto, se informó que se había recibido información falsa alrededor quince con cero visitas. En el siguiente paso de la operación policial, se llevó a cabo una búsqueda detallada del origen del artículo, que resultó en la identificación de una empresa registrada en la ciudad de Shenzhen y dirigida por un persona de apellido Hong como responsable de cuentas sospechosas.
Difundir noticias falsas en China es extremadamente peligroso
Una semana después, la policía allanó la casa de Hong y recolectó evidencia de sus sistemas informáticos. Las autoridades notifican que el sospechoso ha aceptado han usado ChatGPT manipular los sistemas de seguridad de Baijiahao, que impiden la publicación de noticias duplicadas.
Para lograrlo, utilizó el herramienta de inteligencia artificial de OpenAI para crear múltiples versiones de artículos populares en la web y obtener ganancias ilegales a través de su publicación.
El 10 de enero de este año, la Administración del Ciberespacio de China introdujo nuevas regulaciones con respecto al uso de inteligencia artificial generativa en Internet. Según estas reglas, todos y cada uno de los contenidos generados por IA deben estar correctamente etiquetados y disponer de otros recursos para prevenir la desinformación.
Es fundamental resaltar que, a lo largo de los años, el país asiático ha sido objeto de acusaciones por parte de diferentes organismos internacionales debido a su Prácticas de censura de contenidos en Internetincorporadas a través de diferentes métodos.
Estos incluyen los famosos “Gran Cortafuegos” que limita o bloquea el acceso a determinados sitios web y servicios extranjeros, como el riguroso control que se ejerce sobre las plataformas digitales que operan en el país.