El CEO de Anthropic llamó a China el principal obstáculo para frenar el desarrollo de la IA
- El CEO de Anthropic considera que China es el principal obstáculo para limitar la IA
- Propuso un 'límite de velocidad' global, pero duda de su implementación
- Las startups chinas aceleran el desarrollo de la IA, compitiendo con OpenAI y Anthropic
- OpenAI y Anthropic se preparan para salir a bolsa, pero los plazos aún no se han anunciado
Durante la entrevista en el programa Sunday Morning en CBS, Dario Amodei, CEO de Anthropic, señaló que los esfuerzos por establecer restricciones internacionales en el ámbito de la inteligencia artificial enfrentan un serio desafío geopolítico. En su opinión, el principal problema es la falta de disposición de los países competidores, especialmente China, para cumplir con tales restricciones en aras de mantener una ventaja estratégica.
La idea del «límite de velocidad» y su realismo
Amodei propuso crear un consenso global sobre el «límite de velocidad» en el desarrollo de tecnologías de IA, lo que permitiría reducir los riesgos asociados con la aplicación potencialmente catastrófica de los modelos más poderosos. Sin embargo, expresó escepticismo sobre la viabilidad de esta idea, señalando los fuertes incentivos al liderazgo tecnológico que impulsan a los estados y corporaciones.
A pesar de las dudas, Amodei subrayó que los intentos de llegar a un acuerdo son necesarios. Recordó sus llamados anteriores a las empresas para que desaceleraran la mejora de los modelos avanzados, lo que fue una reacción a la creciente preocupación dentro de la industria sobre posibles amenazas.
Las discrepancias internas en Anthropic se intensificaron tras la salida del empleado Jacob Coxon, quien explicó su decisión por el miedo a que las empresas, incluida su principal competidora OpenAI, 'jueguen a la ruleta con nuestras vidas'.
Mientras tanto, las startups chinas están desarrollando activamente sus redes neuronales, creando competencia para los líderes del mercado: OpenAI y Anthropic. En la cumbre de BRICS en India, el presidente chino Xi Jinping instó a la formación de un mecanismo global de gobernanza de IA basado en el consenso, y las autoridades chinas anunciaron planes para apoyar a la comunidad abierta de desarrolladores de IA en el marco de un bloque que agrupa a 11 países, incluida Rusia.
Anthropic y OpenAI se están preparando para posibles ofertas públicas iniciales, sin embargo, aún no hay fechas oficiales. Sam Altman, el director de OpenAI, informó que la compañía probablemente pospondrá el IPO hasta el próximo año, en parte debido a cuestiones de seguridad. A pesar de las discrepancias anteriores, Altman apoyó la iniciativa de Amodei, afirmando la necesidad de 'frenar el ritmo de desarrollo de sistemas avanzados'.
La iniciativa también fue respaldada por destacados representantes de la industria: Demis Hassabis, presidente de la junta directiva de Google DeepMind, señaló que el ensayo de Amodei apunta en la dirección correcta, aunque los detalles requieren más trabajo; Elon Musk, director de Tesla y SpaceX, expresó su acuerdo con la propuesta de ralentizar el desarrollo de sistemas avanzados de IA.
La situación subraya la creciente tensión entre el deseo de progreso tecnológico y la necesidad de garantizar la seguridad y el control sobre poderosas herramientas de IA. Mientras un acuerdo global siga siendo inalcanzable, el diálogo entre países y empresas continúa siendo un elemento clave para prevenir amenazas potenciales.
Fuente: 3DNews
