El “padrino” de la IA Geoffrey Hinton abandona Google y advierte sobre los peligros de la desinformación
- El pionero de la red neuronal dice que los peligros de los chatbots son «bastante aterradores» y advierte que podrían ser explotados por «malos actores»
El hombre a menudo señalado como el padrino de la IA renunció a Google, en medio de preocupaciones sobre la avalancha de información errónea, la posibilidad de que la IA cambie el mercado laboral y el «riesgo existencial» que plantea la creación de una verdadera inteligencia digital.
El Dr. Geoffrey Hinton, quien con dos de sus estudiantes en la Universidad de Toronto construyó una red neuronal en 2012, renunció a Google esta semana, como informó por primera vez el New York Times.
Hinton, de 75 años, dijo que renunció para hablar libremente sobre los peligros de la IA y, en parte, lamenta su contribución al campo. Fue contratado por Google hace una década para ayudar a desarrollar la tecnología de inteligencia artificial de la empresa, y el rumbo del que él fue pionero abrió el camino para los sistemas actuales como ChatGPT.
Hinton le dijo al New York Times que hasta el año pasado creía que Google había sido un «administrador adecuado» de la tecnología, pero eso cambió una vez que Microsoft comenzó a incorporar un chatbot en su motor de búsqueda Bing, y la compañía comenzó a preocuparse por el riesgo para su negocio de búsqueda.
Algunos de los peligros de los chatbots de IA eran «bastante aterradores», le dijo a la BBC, y advirtió que podrían volverse más inteligentes que los humanos y podrían ser explotados por «malos actores». «Es capaz de producir una gran cantidad de texto automáticamente, por lo que puede obtener muchos spambots muy efectivos. Permitirá que los líderes autoritarios manipulen a sus electores, cosas así”.
Pero, agregó, también estaba preocupado por el «riesgo existencial de lo que sucede cuando estas cosas se vuelven más inteligentes que nosotros».
«Llegué a la conclusión de que el tipo de inteligencia que estamos desarrollando es muy diferente de la inteligencia que tenemos», dijo. «Así que es como si tuvieras 10.000 personas y cada vez que una persona aprendiera algo, todos lo supieran automáticamente. Y así es como estos chatbots pueden saber mucho más que cualquier persona».
Él no está solo en los escalones superiores de la investigación de IA que temen que la tecnología pueda representar un daño grave para la humanidad. El mes pasado, Elon Musk dijo que se había peleado con el cofundador de Google, Larry Page, porque Page «no se estaba tomando la seguridad de la IA lo suficientemente en serio». Musk le dijo a Fox News que Page quería «superinteligencia digital, básicamente un dios digital, por así decirlo, lo antes posible».
Valérie Pisano, directora ejecutiva de Mila, el Instituto de Inteligencia Artificial de Quebec, dijo que el descuido en la seguridad de los sistemas de IA no sería tolerado en ningún otro campo. «La tecnología está disponible y, a medida que el sistema interactúa con la humanidad, sus desarrolladores esperan a ver qué sucede y hacen ajustes en función de eso. Como colectivo, nunca aceptaríamos este tipo de mentalidad en ningún otro campo industrial. Hay algo sobre la tecnología y las redes sociales en las que decimos: ‘Sí, claro, lo resolveremos más tarde'», dijo.
La preocupación de Hinton a corto plazo es algo que ya se ha hecho realidad: las personas ya no podrán discernir qué es verdad con las fotos, videos y textos generados por IA que inundan Internet.
Las actualizaciones recientes de los generadores de imágenes como Midjourney significan que las personas ahora pueden producir imágenes fotorrealistas: una de esas imágenes del Papa Francisco con un abrigo acolchado de Balenciaga se volvió viral en marzo.
A Hinton también le preocupa que la IA finalmente reemplace trabajos como asistentes legales, asistentes personales y otros «trabajos de servidumbre», algo que potencialmente puede aumentar todavía más en el futuro.
El científico jefe de Google, Jeff Dean, dijo en un comunicado que Google aprecia las contribuciones de Hinton a la empresa durante la última década.
«He disfrutado profundamente nuestras muchas conversaciones a lo largo de los años. ¡Lo extrañaré y le deseo lo mejor!
«Como una de las primeras empresas en publicar los Principios de IA, seguimos comprometidos con un enfoque responsable de la IA. Estamos continuamente aprendiendo a comprender los riesgos emergentes mientras también innovamos audazmente». Toby Walsh, científico jefe del Instituto de IA de la Universidad de Nueva Gales del Sur, dijo que las personas deberían cuestionar cualquier medio en línea que vean ahora.
«Cuando se trata de cualquier dato digital que veas, ya sea audio o video, debes considerar la idea de que alguien lo ha falsificado».
Fuente: theguardian
