En los últimos días, un grupo de expertos en Inteligencia Artificial y ejecutivos del sector, entre ellos Elon Musk, hicieron un llamado a hacer una pausa de seis meses en la investigación sobre IA, incluso más potentes que Chat GPT-4, el modelo de OpenAI lanzado este mes, y que ha dado tanto de qué hablar. El argumento es que esta tecnología podrían traer “grandes riesgos para la humanidad”.

En la petición publicada en el sitio futureoflife.org, piden una moratoria hasta que se establezcan sistemas de seguridad con nuevas autoridades reguladoras, vigilancia de los sistemas de IA, técnicas que ayuden a distinguir entre lo real y lo artificial, e instituciones capaces de hacer frente a la “dramática perturbación económica y política, especialmente para la democracia, que causará la IA”.

La firman personalidades como el cofundador de Apple, Steve Wozniak, miembros del laboratorio de AI DeepMind de Google, el director de Stability AI, Emad Mostaque, así como expertos y académicos estadounidenses de IA e ingenieros ejecutivos de Microsoft, empresa aliada de OpenAI.

Por su parte, el director de Open AI, que diseñó ChatGPT, Sam Altman, ha reconocido tener “un poco de miedo” de que su creación se utilice para “desinformación a gran escala o ciberataques”. Recientemente declaró en ABCNews: “La empresa necesita tiempo para adaptarse”.

Los laboratorios de IA están en una carrera desmedida para desarrollar y desplegar cerebros digitales cada vez más potentes. “La velocidad de crecimiento, entrenamiento y avance que lleva la IA en la actualidad está dejando atrás la capacidad que la sociedad puede llevar, esto puede afectar en varios aspectos, por ejemplo, puede poner en riesgo la estabilidad social teniendo en cuenta que actividades propias de los humanos se están viendo realizadas con alta eficiencia por este tipo de herramientas”, señala Nieder Vergara, docente de la Escuela de Tecnologías de la Información y las Comunicaciones.

Pero, ¿representa ChatGPT una amenaza real? En Vanguardia consultamos con algunos expertos para saber qué opinan. Aquí sus argumentos.

¿Qué tan confiable es ChatGPT?

Diana Lancheros Cesta, doctora (PhD) en Ingeniería

“No es posible establecer un nivel de confianza. Sin embargo, las múltiples pruebas que se han realizado en múltiples escenarios permiten afirmar que en un gran porcentaje la información es verdadera. No obstante, en los términos y condiciones de la aplicación, se recomienda no utilizar información sensible, personal o empresarial. Esto porque los algoritmos se entrenan con la información que se va dando y puede volver a utilizarla”.

¿Cuáles podrían ser los posibles fines maliciosos?

Sol González, especialista de seguridad informática de Laboratorio ESET LATAM

“Es muy sencillo generar noticias falsas porque lamentablemente ChatGPT no entiende qué es real y que no. Uno le puede pedir que genere una noticia o un párrafo, y lo va a producir.

Por otro lado también hay que hablar del robo de identidad. Lamentablemente hemos hecho una prueba con el laboratorio, en donde le pedimos a ChatGPT que redactara un tuit personificando a Elon Musk, por lo cual imaginen lo contraproducente que puede ser. 

También puede ser usado para el desarrollo de malware. Hemos hecho varias pruebas, si bien en las últimas versiones la compañía está tratando de que no se genere este tipo de código, lamentablemente todavía sigue posibilitando el desarrollo de malware”.

¿Debe haber más control y regulación?

Jeison Mauricio Delgado González, ingeniero de Sistemas, docente e investigador de la Universidad Industrial de Santander, UIS.

“Es definitivo que la legislación no va de la mano con los avances en ciencia, tecnología e innovación. Tenemos una Constitución en la que se promueve reformar lo que ya se conoce, pero en la que poco se legisla sobre este tipo de escenarios que son muy importantes, y para los cuales se debe tener conciencia sobre lo que es aceptado y lo que no. Por ahora estas herramientas seguirán sirviendo para mejorar la productividad, pero es incierto hasta dónde se pueda llegar, eso dependerá de la creatividad de cada una de las personas que utilicen la herramienta”.

MÁS NOTICIAS:

Ibaguereña 'emberracada' se encadenó en agencia de viajes de reconocido Centro Comercial

‘Millos’ sale indignado con la Alcaldía de Ibagué, por notificar a Cataño en persona tras partido