El empresario multimillonario Elon Musk advirtió contundentemente que la inteligencia artificial (IA) tiene el potencial de destruir la civilización, citando la necesidad de una nueva opción de IA «prohumana» que busque la verdad.
En una amplia entrevista reciente en «Tucker Carlson Tonight» de Fox News, que se emitió el lunes por la noche, Musk advirtió que las tecnologías de IA existentes, como «ChatGPT» alineada con Microsoft y «DeepMind» propiedad de Google, están siendo entrenadas para ser políticamente correctas, lo que él cree que está conduciendo a una distopía de la IA.
Musk señaló que la IA tiene el potencial de destruir la civilización y pidió una nueva opción de IA que busque la verdad. Sus preocupaciones surgen de la singularidad, un punto en el que la IA supera a la inteligencia humana y se vuelve imposible de predecir.
“¿Qué sucede cuando algo mucho más inteligente que la persona más inteligente aparece en forma de silicio? Es muy difícil predecir lo que sucederá en esa circunstancia”, dijo. “Se llama la singularidad. Una singularidad, como un agujero negro, porque no sabes qué pasa después de eso”.
La singularidad es una posibilidad, según el CEO de DeepMind, Demis Hassabis, quien recientemente señaló en una entrevista de «60 Minutes» en CBS que la IA podría alcanzar un estado de «autoconciencia». Sus comentarios son dignos de mención dado que el año pasado, Google despidió a un investigador de IA que afirmó que su modelo de lenguaje LaMDA AI había ganado sensibilidad. Google dijo que las afirmaciones eran infundadas.
Musk enfatizó la necesidad de precaución con la IA y pidió la supervisión del gobierno, citando a la IA como un «peligro para el público».
“La IA es quizás más peligrosa que, digamos, el diseño de aeronaves mal administrado, o el mantenimiento de la producción, o la mala producción de automóviles, en el sentido de que tiene el potencial, por pequeño que se pueda considerar esa probabilidad, pero no es trivial, tiene el potencial de destruir la civilización”.
Si las regulaciones no se implementan hasta que “algo terrible sucedida”, entonces “puede ser demasiado tarde”.
“La IA puede tener el control en ese momento”, agregó, y señaló que es “absolutamente” posible que la IA tome el control y tome decisiones por las personas. “Ahí es definitivamente hacia donde se dirigen las cosas con seguridad”, dijo.
Musk dice que el cofundador de Google busca un «dios digital»
Musk también discutió sus conversaciones con el cofundador de Google, Larry Page, sobre la seguridad de la IA. Musk dijo que expresó su preocupación de que Page no estaba tomando los riesgos en serio y señaló que Page quería marcar el comienzo de una superinteligencia de IA o un «dios digital» lo antes posible.
“Realmente parecía querer una superinteligencia digital, básicamente un dios digital, lo antes posible”, dijo Musk.
“Ha hecho muchas declaraciones públicas a lo largo de los años de que el objetivo general de Google es lo que se llama AGI, inteligencia general artificial o superinteligencia artificial”, agregó. “Estoy de acuerdo con él en que existe un gran potencial para el bien, pero también existe el potencial para el mal”.
Musk dijo que abogaba por proteger a la humanidad. Page supuestamente le llamó «especista” en respuesta.
“Yo no era el único allí cuando me llamó especista. Sí, soy un especista, está bien. Me tienes”, bromeó Musk. «Pero ¿qué eres tú?»
«Eso fue el colmo. En ese momento, Google había adquirido Deep Mind, por lo que Google y Deep Mind tenían alrededor de las tres cuartas partes de todo el talento de IA del mundo”, agregó Musk. “Obviamente tenían una enorme cantidad de dinero y más computadoras que nadie. Así que estoy como, estamos en un mundo unipolar aquí”.
La necesidad de una IA que busque la verdad
Musk inicialmente cofundó OpenAI para “servir como contrapeso de Google”, pero dejó la empresa en 2018 después de una lucha de poder. Desde entonces, la organización de código abierto se ha convertido en una empresa con fines de lucro “estrechamente aliada con Microsoft”, para descontento de Musk.
“En efecto, Microsoft tiene una voz muy fuerte, si no controla directamente OpenAI en este momento”, dijo. «Entonces, realmente tienes una situación OpenAI-Microsoft, y luego Google-Deep Mind que son los otros dos pesos pesados en este campo».
El multimillonario tecnológico, que a menudo ha expresado su preocupación por el riesgo que representa la IA para el futuro de la civilización humana, habló de su ambición por una tercera alternativa en el panorama de la IA.
Musk dijo que, si bien llegó «tarde al juego», intentará crear una «IA máxima que busque la verdad y esté entrenada para preocuparse por la humanidad y ser ideológicamente neutral y tratar de comprender la naturaleza del universo».
“Queremos prohumanos. Haz que el futuro sea bueno para los humanos. Porque somos humanos”, dijo Musk.
En su opinión, una IA que se preocupe por comprender el universo tendría menos probabilidades de destruir la civilización porque los humanos son una parte intrigante del universo. Citó el ejemplo de la elección de la humanidad de no exterminar a los chimpancés como una ilustración de por qué una IA con tanto interés no vería a la humanidad como una amenaza.
“La intención con OpenAI era hacer el bien. Pero no está claro si realmente está funcionando bien o si es… No puedo decirlo en este momento”, dijo. “Me preocupa el hecho de que está siendo entrenado para ser políticamente correcto, que es simplemente otra forma de mentir, decir cosas falsas”.
Entrenar a la IA para que sea políticamente correcta y, por lo tanto, «engañosa» es un «camino hacia la distopía de la IA», agregó.
«Entonces, voy a comenzar algo que llamo ‘Truth GPT’ o una IA máxima que busca la verdad y trata de comprender la naturaleza del universo», dijo. “Creo que este podría ser el mejor camino hacia la seguridad, en el sentido de que es poco probable que una IA que se preocupa por comprender el universo aniquile a los humanos porque somos una parte interesante del universo”.
Únase a nuestro canal de Telegram para recibir las últimas noticias al instante haciendo click aquí
Cómo puede usted ayudarnos a seguir informando
¿Por qué necesitamos su ayuda para financiar nuestra cobertura informativa en Estados Unidos y en todo el mundo? Porque somos una organización de noticias independiente, libre de la influencia de cualquier gobierno, corporación o partido político. Desde el día que empezamos, hemos enfrentado presiones para silenciarnos, sobre todo del Partido Comunista Chino. Pero no nos doblegaremos. Dependemos de su generosa contribución para seguir ejerciendo un periodismo tradicional. Juntos, podemos seguir difundiendo la verdad.
