Elon Musk y más de mil expertos piden poner en pausa los avances en inteligencia artificial

El CEO de Twitter, Elon Musk, el Instituto Future of Life y más de mil expertos pidieron hoy en una carta abierta una pausa de seis meses en el desarrollo de sistemas de inteligencia artificial más potentes que el GPT-4 de OpenAI.

El objetivo es parar los avances hasta que haya protocolos de seguridad compartidos desarrollados por expertos independientes. Los firmantes describen a la inteligencia artificial como "un riesgo profundo para la sociedad y la humanidad".

En detalle. La carta fue firmada por más de mil ejecutivos de la industria y expertos en inteligencia artificial como el fundador del Instituto de Inteligencia Artificial Mila-Quebec, Yoshua Bengio.

Desde su lanzamiento el año pasado, ChatGPT de OpenAI ha llevado a los rivales a acelerar el desarrollo de modelos de lenguaje grandes similares y a las empresas a integrar modelos de IA generativa en sus productos.

La semana pasada, OpenAI anunció que se había asociado con alrededor de una docena de empresas para incorporar sus servicios en su chatbot , lo que permite a los usuarios de ChatGPT pedir comestibles a través de Instacart o reservar vuelos a través de Expedia.

Sam Altman, director ejecutivo de OpenAI, no ha firmado la carta, dijo a Reuters un portavoz de Future of Life.

"La carta no es perfecta, pero el espíritu es correcto: debemos reducir la velocidad hasta que entendamos mejor las ramificaciones", dijo Gary Marcus, profesor de la Universidad de Nueva York que firmó la carta. "Los grandes jugadores se están volviendo cada vez más reservados sobre lo que están haciendo, lo que dificulta que la sociedad se defienda de cualquier daño que pueda materializarse".

Los críticos acusaron a los firmantes de la carta de promover la "exageración de la IA", argumentando que las afirmaciones sobre el potencial actual de la tecnología habían sido muy exageradas.