A través de sus redes sociales, el fundador de Facebook se pronunció sobre la discusión en torno a la conveniencia de ralentizar el avance de las capacidades de la IA hasta alcanzar estándares adecuados de alineación, una propuesta planteada por Dario Amodei, director ejecutivo de Anthropic, y respaldada también por otros referentes tecnológicos como Sam Altman, de OpenAI, y Elon Musk, de SpaceX y xAI. Zuckerberg sostuvo que cada laboratorio cuenta con los incentivos y recursos necesarios para adoptar sus propias medidas de seguridad.
“Cada laboratorio tiene la responsabilidad y el incentivo de avanzar al ritmo necesario para entrenar sus modelos de forma segura, así como la capacidad de tomar sus propias medidas para garantizar que esto suceda”, afirmó Zuckerberg, quien puso como ejemplo las decisiones adoptadas por Meta durante el desarrollo de sus propios sistemas de inteligencia artificial.
El ejecutivo explicó que Meta retrasó durante varios meses el lanzamiento de su agente de IA, Muse, con el objetivo de concentrarse en aspectos relacionados con la seguridad y la protección. “No exigimos que los demás hicieran lo mismo antes que nosotros”, señaló, al referirse a la decisión de la compañía de priorizar esas medidas sin plantear que sus competidores debieran adoptar exactamente el mismo procedimiento.
Zuckerberg también planteó que una vía para impulsar un desarrollo más seguro de la inteligencia artificial consiste en destinar la mayor parte de la capacidad de cómputo a prestar servicios a las personas, en lugar de concentrar esos recursos en una competencia por alcanzar la automejora. Sus declaraciones se produjeron después de que Elon Musk propusiera que los principales desarrolladores sometan sus modelos a revisiones de seguridad y trabajen de manera conjunta para ponerlos a prueba.
En relación con esa propuesta de colaboración, el director de Meta señaló que MLS, el laboratorio de inteligencia artificial de la compañía, ya dispone de evaluadores y asesores independientes, aunque consideró que podría ser positivo ampliar la participación externa. “En general, sería beneficioso contar con un ecosistema de evaluadores más amplio y diverso”, agregó. El debate ocurre mientras Amodei, Altman y Demis Hassabis, de Google DeepMind, han planteado la necesidad de dar mayor espacio al desarrollo de salvaguardas antes de continuar acelerando las capacidades de la IA.
Redacción: Forum News