Mire: el padrino de la IA, Geoffrey Hinton, le cuenta a la BBC sobre los peligros de la IA cuando deja Google
Un hombre ampliamente visto como el padrino de la inteligencia artificial (IA) renunció a su trabajo, advirtiendo sobre los crecientes peligros de los desarrollos en el campo.
Jeffrey Hinton, de 75 años, anunció su renuncia a Google en un comunicado al New York Times, diciendo que ahora se arrepiente de su trabajo.
Le dijo a la BBC que algunos de los riesgos de los chatbots eran «muy aterradores».
«Por el momento, no son más inteligentes que nosotros, por lo que puedo decir. Pero creo que pronto podrían serlo».
El Dr. Hinton también estuvo de acuerdo en que su edad influyó en su decisión de dejar el gigante tecnológico y le dijo a la BBC: «Tengo 75 años, así que es hora de retirarme».
La investigación pionera del Dr. Hinton sobre el aprendizaje profundo y las redes neuronales allanó el camino para los sistemas de inteligencia artificial actuales, como ChatGPT.
Pero un psicólogo cognitivo e informático británico-canadiense le dijo a la BBC que un chatbot pronto podría superar el nivel de información que tiene el cerebro humano.
«Por el momento, lo que estamos viendo es que cosas como GPT-4 superan a una persona en la cantidad de conocimiento general que tienen y superan mucho a una persona. En términos de razonamiento, no es muy bueno, pero lo hace simple pensamiento.
«Y dada la tasa de progreso, esperamos que las cosas mejoren muy rápidamente. Así que tenemos que preocuparnos por eso».
En un artículo del New York Times, el Dr. Hinton se refirió a los «malos actores» que intentarían usar la IA para «cosas malas».
Cuando la BBC le pidió que diera más detalles sobre esto, respondió: «Este es solo el peor de los casos, una especie de escenario de pesadilla.
«Puedes imaginar, por ejemplo, algunos malos actores como [Russian President Vladimir] Putin decidió dar a los bots la capacidad de crear sus propios objetivos secundarios.
En última instancia, esto podría «crear objetivos secundarios como ‘Necesito volverme más poderoso'», advirtió el científico.
Y agregó: «He llegado a la conclusión de que el tipo de inteligencia que desarrollamos es muy diferente de la inteligencia que tenemos.
«Somos sistemas biológicos y estos son sistemas digitales. La gran diferencia es que con los sistemas digitales, tienes muchas copias del mismo conjunto de pesos, el mismo modelo del mundo.
«Y todos estos clones pueden aprender por separado pero compartir su conocimiento al instante. Es como si tuvieras 10 000 personas y cada vez que alguien aprende algo, todos lo saben automáticamente. Y estos chatbots pueden saber mucho más que cualquier persona».
Hizo hincapié en que no quería criticar a Google y que el gigante tecnológico era «muy responsable».
«De hecho, quiero decir algunas cosas buenas sobre Google. Sería más creíble si no trabajara para Google».
En un comunicado, el científico jefe de Google, Jeff Dean, dijo: «Seguimos comprometidos con un enfoque responsable de la IA. Estamos constantemente aprendiendo a comprender los riesgos emergentes al mismo tiempo que innovamos con audacia».
Ver: ¿Qué es la inteligencia artificial?
Javier Marías es colaborador en El Demócrata, donde cubre temas de actualidad, política, negocios, tecnología, deportes, entretenimiento y estilo de vida. Su trabajo se centra en ofrecer información clara, útil y bien contextualizada, acercando a los lectores noticias, tendencias y acontecimientos relevantes para comprender mejor el mundo que los rodea.