Geoffrey Hinton
Premio Nobel de Física 2024
Glosado por Lampadia
https://www.instagram.com/reel/DMX84KTNTd1/?igsh=MXhvNXk3aHlyMzhoNA%3D%3D
Geoffrey Hinton, uno de los pioneros de la IA moderna, fue galardonado con el Premio Nobel en 2024 por su trabajo sobre redes neuronales. A menudo se le llama el padrino de la IA por desarrollar conjuntamente el algoritmo de retropropagación en la década de 1980, que sentó las bases de los sistemas de aprendizaje profundo actuales.
Hasta 2023, trabajó en Google, donde ayudó a dirigir la investigación de IA. Dejó la compañía para poder hablar libremente sobre los riesgos que cree que ahora plantea la IA.
En su discurso del Premio Nobel, Hinton advirtió que la IA ya no es solo una herramienta para el progreso.
Fue más allá, diciendo que la IA pronto podría usarse para crear nuevos virus o armas autónomas que elijan sus propios objetivos. Pero la preocupación más seria, según Hinton, es que estamos en camino de construir seres digitales más inteligentes que los humanos. Dijo que todavía no tenemos idea de si podremos controlarlos.
Hinton pidió una acción urgente de los gobiernos y las instituciones internacionales. Estos riesgos, dijo, ya no son ciencia ficción.
“Majestades, Altezas Reales, Excelencias, Queridos Laureados, Damas y Caballeros.
Este año, los Comités Nobel de Física y Química han reconocido el espectacular progreso que se está logrando en una nueva forma de inteligencia artificial que utiliza redes neuronales artificiales para aprender a resolver problemas computacionales difíciles.
Esta nueva forma de IA sobresale en el modelado de la intuición humana en lugar del razonamiento humano y nos permitirá crear asistentes altamente inteligentes y conocedores que aumentarán la productividad en casi todas las industrias.
Si los beneficios del aumento de la productividad se pueden compartir por igual, será un avance maravilloso para toda la humanidad. Desafortunadamente, el rápido progreso en IA conlleva muchos riesgos a corto plazo.
Ya ha creado cámaras de eco divisivas al ofrecer a las personas contenido que las indigna.
Ya está siendo utilizado por gobiernos autoritarios para la vigilancia masiva y por ciberdelincuentes para ataques de phishing.
En un futuro cercano, la IA puede usarse para crear nuevos virus y horrendas armas letales que deciden por sí mismos a quién matar o mutilar.
Todos estos riesgos a corto plazo requieren una atención urgente y contundente por parte de gobiernos y organizaciones internacionales.
También hay un riesgo que surgirá cuando creemos seres digitales que sean más inteligentes que nosotros. No tenemos idea de si podremos mantener el control. Pero nosotros ahora tenemos evidencia de que si son creadas por empresas motivadas por ganancias a corto plazo, nuestra seguridad no será la máxima prioridad.
Necesitamos urgentemente investigación sobre cómo evitar que estos nuevos seres quieran tomar el control.
Ya no son ciencia ficción.
Gracias”.
Lampadia
