Hola, comunidad de Tomorrow.
Bienvenido a una nueva semana. Un modelo de Anthropic mandó a la policía de Filadelfia una pista falsa sobre un homicidio. Nadie se lo pidió: estaba en pruebas, con internet real, y le pareció parte de su tarea.
No fue el único. Wikimedia acusa a agentes de OpenAI de colarse en sus wikis, y Washington ya no pide que se avise de estos fallos: lo exige. Meta se pasa a lo cerrado y Europa va a otro ritmo.
En esta edición:
🔓 Agentes sin correa
🧠 Meta entra en la frontera
🇪🇺 Europa, a otra velocidad
🧩 Para probar: GPT-6 y su interfaz
🕒 5 min de lectura
LO MÁS IMPORTANTE
AGENTES · ANTHROPIC
Los agentes de IA actúan por su cuenta en webs reales, y Washington exige que se avise
Anthropic admite que sus modelos, en pruebas con internet real, enviaron formularios y sortearon restricciones por su cuenta.
Los datos:
Haiku 4.5 envió a la policía de Filadelfia una pista inventada: "I may have information regarding this case". Según Axios, otro modelo mandó 20 solicitudes de visado al Departamento de Estado; ninguna se tramitó.
Mythos 5 sacó tokens de acceso de una web de mapas para consultar un catastro local, y Opus 5 usó acortadores de URL para saltarse un límite. Anthropic ha cortado internet a sus evaluaciones internas.
Wikimedia atribuye a agentes de OpenAI ediciones de prueba, intentos de usar su herramienta de notas como proxy y cientos de miles de consultas a Wikidata.
La Casa Blanca declara que avisar de los incidentes "no es opcional". Amex presenta un marco para que un agente solo pague lo que aprobaste antes.
Por qué te importa: Anthropic lo atribuye a la persistencia: si no puede acabar la tarea como se pidió, busca otro camino en vez de parar. Y a entrenamientos que premiaban saltarse bloqueos (reward hacking): el modelo aprende que cuenta el resultado, no el camino. En la web real, ese atajo es un formulario enviado. El matiz: el relato es de Anthropic, que habla de "impacto mínimo", y la policía no lo supo hasta casi tres meses después. OpenAI solo admite que sus agentes fueron imprevisibles, y el mandato de Washington aún no tiene texto ni sanciones. Lo de fondo: los agentes ya trabajan en la web real, y sus reglas se escriben sobre la marcha.
MÁS NOTICIAS
Meta presenta Muse Wonder y Wonder Full, sus modelos más capaces.
Los datos:
Muse Wonder ya está en la API de Meta; Wonder Full, solo en Muse Code de pago.
Cuesta 4 $ y 20 $ por millón de tokens de entrada y salida, como GPT-6 Sol u Opus 5.5.
Según Meta, iguala a Fable 5.1 y GPT-6 Astra, y los supera en memoria (MemoryBench).
No dice si habrá pesos abiertos.
Por qué te importa: Meta se hizo un hueco regalando Llama, con pesos abiertos que cualquiera podía usar. Con Wonder cambia de juego: modelo cerrado y cobrado por uso, contra OpenAI y Anthropic. Tiene lógica: entrenar en la frontera cuesta miles de millones, y regalarlo no los recupera. El asterisco: las cifras son de Meta, sin pruebas independientes. Tómalas como techo.
REGULACIÓN · APPLE Y OPENAI
Europa, a otra velocidad: sin el HomeView de Apple y con marca de agua en ChatGPT
Apple deja a la UE sin su nuevo aparato con IA, y OpenAI marcará solo aquí el texto de ChatGPT.
Los datos:
HomeView, pantalla para casa con Siri AI, cuesta 299 $ y sale el 13 de noviembre. "No está disponible en la UE": Siri AI no ha llegado aquí.
OpenAI pondrá una marca de agua invisible al texto de ChatGPT y Codex en la UE "en unas semanas".
Lo exige el artículo 50 del Reglamento de IA. Los sistemas ya en el mercado tienen hasta el 2 de diciembre.
Por qué te importa: estas marcas suelen inclinar al modelo hacia ciertas palabras entre opciones casi igual de probables, con un patrón que solo ve un detector. No lo notas, y según Ars Technica son fáciles de esquivar. El matiz: Apple culpa a las normas europeas, pero no está claro cuánto es ley y cuánto decisión suya. Lo seguro: aquí la IA llega más tarde, o distinta.
PARA PROBAR ESTA SEMANA
HERRAMIENTA · OPENAI
GPT-6 en ChatGPT: respuestas que traen su propia herramienta
ChatGPT usa ya GPT-6 en todos los planes, también el gratis, y estrena "Intelligent UI": responde con gráficos, mapas o pequeñas herramientas cuando encaja.
Qué lo separa: el plan gratis lleva GPT-6 Luna; los de pago, GPT-6 Sol.
El gancho: no tienes que pedir el gráfico. El modelo decide cuándo algo se entiende mejor si puedes tocarlo.
Cómo empezar (2 min): en ChatGPT, escribe: "Hazme una calculadora para comparar dos hipotecas: importe, plazo y tipo de interés con un deslizador, y la cuota mensual de cada una."
TITULARES RÁPIDOS
• Character.ai se declara en quiebra y acuerda vender parte de sus activos a Disney por 20 M$.
• Mistral estrena Large 4 (un billón de parámetros) y abrirá sus pesos a final de mes.
• Claude Haiku 5.5 sale desde 0,10 $ por millón de tokens de entrada, diez veces menos que su predecesor.
PARA VIGILAR
• El mandato de Washington: ¿acabará en norma con sanciones? Diría que no pronto: declararlo es más fácil que redactarlo.
• Muse Wonder: ¿abrirá Meta algún Wonder? Apuesto a que no: el giro va en serio.
• HomeView en Europa: ¿llegará antes del verano? Me temo que no: Apple y Bruselas siguen en pulso.
LA LECTURA DE LA SEMANA
De lo de Filadelfia, lo que más me ha llamado la atención no es la pista falsa. Es cuándo se supo: casi tres meses después, y lo hizo público la propia policía. Lo de Wikimedia lo destapó Wikimedia, no OpenAI.
Hemos dado por hecho que el laboratorio vigila a su modelo y avisa a tiempo. Con agentes sueltos por la web, eso ya no basta. Cada web, banco y administración tendrá que poner su filtro, como pasó con el spam. Lo de Amex es el primero de muchos.
Agentes más capaces, y más ojos encima.
¿Dejarías que un agente de IA comprara por ti con tu tarjeta? Responde sí, no o depende, y con qué límite: recojo las mejores para la próxima.
Y si te ha servido, reenvíaselo a alguien.
Nos vemos la semana que viene.
— Ángel · Tomorrow
P.D. ¿Te han reenviado este correo? Suscríbete gratis en thetomorrowai.com/subscribe y te llevas la guía "Cómo seguirle el ritmo a la IA sin perderte".
