Un conjunto de emprendedores tecnológicosespecialistas y políticos, encabezados por el empresario Elon MuskHan enviado una carta con cierto tono apocalíptico en el que solicitan la suspensión por 6 meses de los juicios con inteligencia artificial (IA) muy poderosa. Según estos líderes de opinión, la búsqueda de IA general podría representar un profundo peligro para la sociedad y la humanidad.
La sociedad ha aprendido a detener el avance de otras tecnologías con efectos potencialmente nefastos en la sociedad. Debemos hacer lo mismo aquí. tengamos una Sueño de IA y no nos apresuremos a un futuro incierto”.
Así lo afirma la carta abierta publicada por el instituto futuro de la vida, una ONG Y es que, el director de Tesla, Elon Muskel co-fundador de Apple, Steve Wozniaky destacados eruditos como Yoshua Bengio, stuart russell, carlos sierra y Ramón López de Mantarasentre muchos otros, han firmado este carta abierta en el que alertan sobre la posible riesgos de la inteligencia artificial si no se gestiona y planifica adecuadamente.
La IA avanzada podría representar un cambio profundo en la historia de la vida en la tierra, y debe planificarse y gestionarse con cuidado y recursos. Y es que los laboratorios de IA se han enfrascado en una carrera descontrolada por desarrollar y desplegar poco a poco psiques digitales más potentes”.
Aseguran en la carta firmada por múltiples personalidades del planeta digital.
Todavía se afirma que absolutamente nadie, ni siquiera sus autores, puede comprender, pronosticar o monitorear de manera confiable estas entidades digitales. Los firmantes presentan un visión apocalíptica de miedos y riesgos quienes han estado presentes en foros de discusión, artículos y conversaciones rutinarias en los últimos meses, a los que aún les plantean la pregunta:
debemos crear psiques no humanas que podrían superarnos en números y en inteligencia, haciéndonos obsoletos y reemplazándonos? ¿Deberíamos arriesgarnos a perder el control de nuestra civilización?
Los firmantes concluyen que tales resoluciones no deben dejarse en manos de líderes tecnológicos no elegidos. En este sentido, se pide a los desarrolladores que trabajen junto con los legisladores para acelerar la creación de un marco legal sólido en torno a la IA.
Además de esto, destacan la importancia de sistemas de inteligencia artificial poderosos solo se desarrollan cuando se garantiza que sus efectos serán positivos y sus peligros son manejables. El comunicado hace un llamado a todos y cada uno de los laboratorios de IA con el fin de interrumpir inmediatamente durante al menos 6 meses el entrenamiento de los sistemas de IA más potentes que gpt-cuatro.
En caso de que las partes involucradas rechacen esta moratoria temporal de las investigaciones, pide la intervención del gobierno para imponerlo.
¿Qué es la IA general?
Aunque, podemos destacar que por ahora, ninguno de los sistemas de inteligencia artificial que se han anunciado comercialmente como OpenAI ChatGPT, Ernie de Baidu, bardo de google o nuevas versiones de Programas de Microsoft con IA pueden ser considerados en la visión apocalíptica que mantiene el grupo de especialistas y figuras relevantes del planeta digital, ya que se refieren a un desarrollo queaún no se ha logrado (o al menos no que se sepa en publico), llamado IAGque hace referencia a las iniciales «Inteligencia artificial general«también llamando»Fuerte inteligencia artificial“.
El Fuerte inteligencia artificial (IAG) se refiere a la idea de que es posible crear una inteligencia artificial capaz de desarrollar un conciencia artificial. Si bien no hay garantía de que la IAG conduzca necesariamente al aumento de la conciencia artificial o que se produzca una conciencia emergente, se considera la posibilidad más plausible. Esto se debe a que la conciencia y la inteligencia general están intrínsecamente entrelazadas en los seres vivos.
Peter Voss, especialista en el campo de IAG, sostiene que hay una coincidencia esencial en las cualidades precisas para el desarrollo tanto de un sistema IAG como de una conciencia artificial. Por ejemplo, las personas tienen “autoconciencia ideal“, que involucra conceptos abstractos del “yo” físico y mental.
Esta característica sería fundamental en el IAG, ya que debería poder conceptualizar qué acciones ha realizado, de qué acciones es capaz y cuáles son sus efectos más probables. Sin embargo, mientras que la conciencia artificial es un posibilidad alucinanteaún quedan muchas preguntas sin respuesta sobre su naturaleza y su posible desarrollo.