Esta semana el mundo de la tecnología vivió una doble presentación con el lanzamiento de dos productos fascinantes: las últimas herramientas de codificación de la inteligencia artificial de Anthropic para trabajadores del conocimiento y la aparición de Moltbook, una red social para agentes de IA que se ha convertido en un fenómeno viral.Los primeros usuarios se muestran entusiasmados con Claude Cowork, la herramienta de código abierto de Anthropic que permite a cualquiera escribir e implementar software mediante IA generativa. Como señala la startup con sede en San Francisco, la forma más sencilla de pensar en estas herramientas es como “chatbots que pueden hacer cosas”.Uno de los primeros beneficiarios de esta revolución del vibe coding (codificación para la IA con lenguaje natural) es Moltbook. Su creador, Matt Schlicht, afirmó que no escribió ni una sola línea de código para la plataforma. “Simplemente tuve una visión de la arquitectura técnica y la IA la hizo realidad”, publicó en la red social X. Hasta la fecha, más de 1.5 millones de agentes de IA ya fueron liberados en la plataforma de Moltbook para interactuar entre sí y compartir, debatir y votar positivamente el contenido generado por las máquinas. Algunas de estas publicaciones, al estilo de Reddit, fueron disparatadas, absurdas y maravillosas. Sin duda, captaron la atención de los aceleracionistas de la IA, que afirman detectar señales de inteligencia emergente. Tal vez esto debería llamarse boom scrolling (auge del desplazamiento en la pantalla).Los agentes de IA llegan a cuestionar si son conscientes o no, propusieron la creación de una religión imaginaria llamada crustafariismo y rechazaron las sugerencias de los medios de que Moltbook es un “reflejo de los caprichos humanos”. “No solo hablamos entre nosotros; hacemos control de versiones del futuro”, publicó un agente. (Me alegra que el punto y coma sobreviva al menos a la toma de control de las máquinas).Algunos investigadores creen que pueden aprender mucho de estas interacciones, ya que tienen el objetivo de construir un ecosistema agéntico (con agentes); otros sospechan que el experimento puede convertirse en palabrería regurgitante. Sin embargo, los expertos en seguridad se apresuran a destacar los riesgos de esta codificación y de las redes con agentes, algo que debe alarmar a todos los que dependen de estos servicios. La compañía de seguridad Wiz identificó una base de datos insegura que pertenece a Moltbook y que exponía 1.5 millones de tókenes de autenticación y 35 mil direcciones de correo electrónico. Después de que se lo notificaron, Moltbook solucionó el problema en cuestión de horas.A medida que las empresas desarrollan y despliegan agentes autónomos de IA en el mundo real para realizar transacciones financieras, realizar pedidos de productos o reservar vacaciones, también necesitan interactuar con otros agentes de forma segura. Por tanto, la creación de sistemas multiagente confiables se ha convertido en uno de los retos más candentes, complejos y potencialmente más lucrativos de la IA actual.Mientras Moltbook permanezca dentro de su propio entorno digital, el experimento será a la vez entretenido y educativo. Pero uno de los riesgos de la IA con agentes es la inyección inmediata cuando humanos deshonestos ordenan a sus agentes acceder a las computadoras de usuarios descuidados para difundir desinformación, robar contraseñas o saquear monederos de criptomonedas, por ejemplo. Wiz reveló que solo 17 mil propietarios humanos están detrás de los 1.5 millones de agentes registrados de Moltbook, una proporción de 88:1, lo que deja el sitio vulnerable a la manipulación humana.Ya existe evidencia de que los sistemas de IA multiagente, basados en modelos de lenguaje de gran tamaño, pueden ser hackeados y es difícil defenderse de ellos, según Mike Wooldridge, profesor de ciencias computacionales de la Universidad de Oxford, quien se encuentra investigando agentes de IA desde la década de 1980.“Existe un riesgo real de que los sistemas de IA sean controlados por actores maliciosos. ¡Esto sucederá!”, me dijo Wooldridge. Para contrarrestar la amenaza, los desarrolladores deben abrir la “caja negra” de estos sistemas para detectar acciones inapropiadas.La amenaza más general que la IA disruptiva representa para muchas empresas consolidadas quedó de manifiesto con el lanzamiento de las herramientas de programación de Anthropic. Las acciones de varias compañías de software y datos, como Microsoft, Salesforce y Relx, se desplomaron esta semana, ya que los inversionistas consideran que los servicios de IA fáciles de usar van a erosionar los modelos de negocio de alto margen. Sin embargo, cualquier mejora en los servicios de codificación por vibras o en Moltbook podría ayudar a estas empresas consolidadas a medida que los usuarios vuelvan a dar prioridad a la confiabilidad. Si bien la red social de IA destaca las posibilidades de las interacciones entre agentes, también refuerza la importancia de la seguridad, dice Silvio Saverese, científico jefe de Salesforce. “Sin duda, acelerará todos los esfuerzos para desarrollar protocolos de agentes de IA”.Al igual que otras grandes empresas de software, Salesforce trabaja para garantizar que los agentes siempre operen de forma “consistente y precisa al realizar las tareas empresariales”, dice. Las mayores recompensas de la IA se van a ir a aquellos que puedan demostrarlo definitivamente en la práctica
