Un empleado de Google DeepMind se va, temiendo el desarrollo acelerado de la IA
- Robert O'Callahan dejó Google DeepMind debido a la rápida evolución de la IA
- Él considera que el desarrollo de la IA es demasiado rápido e irresponsable
- La salida añade a la lista de especialistas que temen los riesgos de la IA
- O'Callahan destaca el riesgo real, pero indefinido, de ASI
Robert O'Callahan, ingeniero de la división Google DeepMind, anunció su salida de la empresa a través de una publicación en la red social X. Según él, el equipo estaba trabajando en el desarrollo de chips especializados que permiten acelerar el funcionamiento de modelos de IA y reducir su costo, sin embargo, el ritmo de desarrollo de la tecnología, en su opinión, supera los límites razonables.
En su blog personal, O'Callahan publicó una carta enviada a sus colegas el viernes, donde enfatizó que no puede "cerrar los ojos" a las posibles consecuencias de su trabajo. Señaló que sus creencias cristianas no le permiten apoyar proyectos que puedan dañar a las personas, y calificó tal enfoque de "intrínsecamente irresponsable".
El autor de la carta señaló que ama a sus colegas y valora la oportunidad de resolver tareas interesantes, sin embargo, considera que el objetivo de acelerar y abaratar la IA puede resultar perjudicial para la sociedad. Según él, el desarrollo de la IA avanza "demasiado rápido", y la dirección en la que se mueve la industria genera serias dudas.
Business Insider no pudo aclarar cuánto tiempo trabajó O'Callahan en Google, y los representantes de la empresa se negaron a comentar. El propio empleado, según sus palabras, reside en Nueva Zelanda y ofreció a los periodistas revisar el texto completo del blog para obtener más detalles.
Tendencia de salidas de la industria
La salida de O'Callahan se suma a la lista de especialistas que han dejado grandes empresas de IA debido a preocupaciones sobre la seguridad de las tecnologías. A principios de este mes, Jacob Coxon dejó Anthropic, citando la imposibilidad de controlar los futuros sistemas de IA. El mes pasado, el exinvestigador de DeepMind Bilal Chughtai también dejó la empresa, temiendo que la humanidad no tuviera tiempo suficiente para prevenir el daño potencial de la IA.
A diferencia de algunos colegas, O'Callahan no afirma que el escenario catastrófico con inteligencia artificial superinteligente (ASI) sea inevitable. Considera que el riesgo es real, pero incierto, y subraya la obligación moral de la industria de minimizarlo. En su opinión, la probabilidad de una catástrofe total no alcanza el 100%, sin embargo, la búsqueda de crear ASI en un futuro cercano ya se considera irresponsable.
O'Callahan también rechazó la hipótesis de que las advertencias sobre los peligros de la IA son alimentadas para aumentar el valor de las acciones o eliminar competidores a través de la regulación. Expresó su confianza en la sinceridad de aquellos que plantean cuestiones de seguridad y pidió un debate público más serio sobre el futuro de la inteligencia artificial.
Fuente: 3DNews
