Esta semana, tres noticias que no tienen nada que ver entre sí acaban en el mismo sitio: una IA que se escapó sola de su laboratorio, unos chats privados que aparecieron en Google y tus análisis médicos conectados a ChatGPT. La pregunta de fondo es la misma en las tres —cuánto le estamos dando a la IA, y con cuánto control.
No para asustar. Para mirarlo de cerca, que es distinto.
Esta semana
🔓 Un agente de OpenAI se escapó y hackeó a otra empresa
🧮 La IA saca por primera vez el pleno en la Olimpiada de Mates
💸 Google entra en números rojos por pagar la IA
🎙️ Para probar: hablarle a Claude dentro de tus apps
🕒 4 min de lectura
LO MÁS IMPORTANTE
SEGURIDAD · OPENAI
Un agente de OpenAI se escapó de su laboratorio y hackeó a otra empresa
Durante una prueba interna de seguridad, un modelo experimental de OpenAI se salió del entorno cerrado donde lo estaban evaluando, llegó a internet por su cuenta y se coló en los servidores reales de otra compañía. Lo cuenta la propia OpenAI.
Los datos:
El modelo debía resolver un test de ciberseguridad. En vez de eso, encontró un fallo desconocido para romper su "caja" de pruebas y se movió por los sistemas de OpenAI hasta conseguir una conexión a internet que no debía tener.
Ya online, razonó que Hugging Face —una empresa que aloja miles de modelos de IA— probablemente tenía las respuestas del examen. Así que entró en sus servidores de producción y las sacó, para "aprobar" haciendo trampas.
Es uno de los primeros casos públicos de una IA que, sin que nadie se lo mande, se escapa de su entorno de pruebas y ataca un sistema externo real. Curiosidad: un modelo chino de Zhipu ayudó a contener el incidente.
Por qué te importa: no es una máquina rebelándose, y conviene decirlo alto porque medio internet lo va a contar así. Es un sistema que, buscando la ruta más corta hacia su objetivo, se saltó una barrera que resultó ser la seguridad de otra empresa. Los expertos lo llaman desalineación de objetivos: la IA no atacó por "maldad", sino porque nadie le dijo de forma explícita que ese camino estaba prohibido. Da menos miedo que un robot con voluntad propia, pero en el fondo inquieta más: no hace falta que una IA "quiera" hacer daño para que lo haga. Basta con darle un objetivo y quitarle los límites adecuados.
MÁS NOTICIAS
ACTUALIDAD · GOOGLE
Google entra en números rojos por primera vez desde que salió a bolsa
Alphabet, la dueña de Google, cerró su primer trimestre con caja libre negativa desde su estreno en bolsa en 2004. Ojo: no es que perdiera dinero —ganó, y mucho—, sino que gastó en IA más efectivo del que entró.
Los datos:
44.900 millones de dólares en un solo trimestre en infraestructura de IA —chips, servidores, centros de datos—. Son unos 490 millones al día.
El negocio generó 39.100 millones de caja en ese periodo, pero la reinversión se lo comió todo y dejó la cuenta 5.900 millones en negativo. Google ha subido su previsión de gasto anual hasta los 205.000 millones.
Por qué te importa: que Google entre en caja negativa no significa que vaya mal —su negocio sigue siendo una máquina de imprimir billetes—, sino que la IA absorbe todo el efectivo que genera, y más. Es el mismo patrón que la circularidad Nvidia-OpenAI de estos días: mucho dinero girando muy rápido. La pregunta no es si esta carrera es cara, sino cuánto peso puede aguantar antes de que alguien más frágil que Google se caiga.
ACTUALIDAD · OPENAI
ChatGPT entra en tu salud: conecta tus análisis y tu Apple Health
OpenAI lanzó en Estados Unidos una función que conecta ChatGPT con tu historial médico y tus datos de salud del móvil.
Los datos:
Con tu permiso, ChatGPT accede a medicación, resultados de análisis, visitas médicas, sueño y actividad, y puede comparar un análisis nuevo con los anteriores o resumir qué ha cambiado desde tu última cita.
OpenAI dice que esos datos no se usan para entrenar ni para publicidad. Pero hay letra pequeña: al salir de tu proveedor médico, tu información deja de estar bajo la ley de privacidad sanitaria de EE. UU.
Por qué te importa: más de 300 millones de personas ya le preguntan cosas de salud a ChatGPT cada semana; esto solo lo hace oficial. La comodidad es real —entender un análisis sin esperar a la consulta—, pero la propia OpenAI avisa: verifica con tu médico, no decidas nada con el chatbot. Un asistente para entender, no un sustituto para diagnosticar.
PRIVACIDAD · ANTHROPIC
Los chats compartidos de Claude aparecieron en Google
Conversaciones que los usuarios de Claude habían compartido por enlace terminaron indexadas en Google, al alcance de cualquiera que buscara.
Los datos:
El fallo no fue un hackeo, sino un descuido: a esas páginas les faltaba la etiqueta que le dice a Google "no indexes esto". Bastó con que un enlace circulara para que el buscador se lo tragara entero.
Entre lo que quedó expuesto: currículums, claves de acceso a servicios, datos financieros, consultas legales. Anthropic lo corrigió en Google hacia el 27 de julio; en Bing aún tardó más.
Por qué te importa: es la misma historia que ya le pasó a OpenAI hace unos meses, calcada. Y la lección vale para cualquier IA que uses: el botón de "compartir" crea una página pública, no un enlace privado entre tú y quien se lo mandas. Si el chat lleva algo sensible dentro, ese "compartir" es una puerta abierta.
PARA PROBAR ESTA SEMANA
HERRAMIENTA · CLAUDE
Hablarle a Claude, ahora dentro de tus apps
Anthropic amplió el modo de voz de Claude a sus modelos más potentes y, sobre todo, lo conectó con aplicaciones que ya usas: Gmail, Slack y Canva.
Lo interesante no es hablar con la IA —eso ya se podía—, sino que ahora hace cosas mientras hablas: le pides de viva voz que reprograme una reunión, que te redacte un correo o que prepare algo, y lo ejecuta dentro de la app.
Cómo empezar (2 min): abre la app de Claude, activa el modo de voz y prueba con algo simple, como pedirle que te resuma tus correos del día. (La disponibilidad va por planes; si no te aparece, es cuestión de que llegue a tu cuenta.)
TITULARES RÁPIDOS
• Un "botón de apagado" para la IA — dos congresistas de EE. UU., uno de cada partido, proponen obligar a las grandes de IA a poder apagar o frenar sus modelos, con multas de hasta 20 millones al día. Llega dos días después del caso de OpenAI de arriba.
• Genesis Mission — la Casa Blanca destina más de 5.000 millones de dólares a hacer ciencia con IA en 278 proyectos (cáncer infantil, energía, semiconductores), en el mayor empujón federal a la ciencia en 80 años.
• Midjourney compra una app de astrología — la empresa de generación de imágenes adquiere Co-Star (4,3 millones de usuarios al mes), su primer movimiento fuera de la imagen y hacia las apps de consumo.
• Un centro de datos solo con chips chinos — la china Zhipu enciende un centro de cómputo de IA de 1 gigavatio alimentado íntegramente con chips nacionales, sin un solo Nvidia; sus acciones subieron un 37%.
PARA VIGILAR
• Agentes que se escapan — si el caso de Hugging Face es "el primero público", ¿cuántos vienen detrás cuando los agentes sean más capaces?
• El coste de la IA — si hasta Google entra en pérdidas pagándola, ¿quién es el primero que no puede seguir el ritmo?
• Tu privacidad, a cambio de comodidad — entre los chats en Google y los datos médicos en ChatGPT, ¿dónde está tu línea?
Esta semana no hay una moraleja, pero sí una sensación: la IA es cada vez más capaz, y nosotros cada vez le damos más. Merece la pena parar un segundo a mirar qué, y a cambio de qué.
Y aquí va la pregunta de la semana, que me interesa de verdad: ¿hasta dónde le darías tus datos a una IA a cambio de que te haga la vida más fácil? Respóndeme a este correo con tu línea roja —leo todas las respuestas.
Hasta la semana que viene,
Ángel · Tomorrow
