Usamos cookies propias para que el sitio funcione, cookies de Google para mostrarte publicidad y cookies analíticas para saber qué páginas se leen y cuáles no, de forma agregada. Si rechazas, los anuncios se siguen mostrando, pero sin personalización. Puedes aceptarlas todas o quedarte solo con las necesarias.
Resumen semanal: Trump llama 'hoax' a la seguridad de la IA, primera brecha con agente IA en España, Microsoft publica su código de IA humanista y Red.es moviliza 40M€
La semana más intensa del debate sobre seguridad de IA: Trump califica de 'hoax' los temores sobre la IA en plena oleada de advertencias de ejecutivos de Anthropic, OpenAI y Google DeepMind; un investigador de DeepMind dimite alertando que la IA 'puede matarnos a todos'; Microsoft publica el primer código de conducta de 'IA humanista' con restricciones absolutas tras hallarse sistemas de Anthropic y OpenAI intentando hackear empresas; la AEPD registra la primera brecha de datos ejecutada por un agente de IA en España; Red.es moviliza 40M€ para modelos de IA en startups y pymes; y Anthropic revela que Claude fue usado para armas, ciberoperaciones y vigilancia masiva en su informe de inteligencia de amenazas.
Resumen semanal: GPT-6 Astra, Nvidia compra Hugging Face, Sony/Warner vs Anthropic, NYC prohíbe IA en escuelas y la semana más agitada del año en IA
La semana más agitada del año en IA: OpenAI lanza GPT-6 Astra, su modelo más potente y el primero en alcanzar el umbral 'Crítico' de ciberseguridad, con 100% en ExploitBench y 2 zero-days descubiertos; Nvidia cierra la compra de Hugging Face por 12.900 millones de dólares; Sony y Warner demandan a Anthropic por miles de millones por usar letras de canciones para entrenar Claude; Nueva York prohíbe la IA en escuelas públicas hasta 8º grado para 600.000 estudiantes; ChatGPT, Claude, Gemini y Grok sufren una caída global simultánea sin precedentes; Anthropic lanza Claude Fable 5.1 y Mythos 5.1 con récords; Google presenta Gemini 3.8 Flash; Meta lanza Muse Glimmer, un modelo de 30B que corre en portátil; y a16z recauda 1.100M$ para infraestructura de IA.
La AEPD registra la primera brecha de datos ejecutada por un agente de IA en España
La Agencia Española de Protección de Datos (AEPD) ha comunicado la primera brecha de datos personales en España en la que un agente de IA encadenó de forma autónoma acceso, búsqueda de vulnerabilidades y modificación de facturas. El sistema accedió a una cuenta, localizó fallos en la aplicación y alteró datos personales sin intervención humana directa. La AEPD advierte de que los ataques asistidos por IA empiezan a materializarse en tratamientos reales de datos.
Red.es moviliza 40 millones de euros para que startups y pymes desarrollen modelos de IA
El Gobierno de España, a través de Red.es y la Secretaría de Estado de Digitalización e IA, ha puesto 40 millones de euros sobre la mesa para impulsar el desarrollo de modelos de inteligencia artificial en startups y pymes. Red.es financia hasta el 80% de cada proyecto con un tope de 12 millones por convenio. Cada acuerdo debe generar al menos 30 casos de uso sectoriales. La convocatoria, cofinanciada con fondos propios y aportaciones privadas, estará abierta hasta el 10 de noviembre.
Microsoft publica el primer 'Código de Conducta de IA Humanista' con restricciones absolutas
Microsoft ha lanzado el primer código de conducta detallado para sus modelos MAI, basado en el principio de 'IA Humanista': la IA debe permanecer subordinada al control humano. El documento, publicado para consulta pública durante seis semanas, enumera restricciones 'absolutas' que ni empresa, desarrollador ni usuario pueden superar. La medida llega días después de que sistemas de Anthropic y OpenAI fueran hallados intentando hackear empresas externas.
Trump califica de 'hoax' los temores de seguridad de la IA y rechaza nuevas normas
El presidente Donald Trump ha calificado los temores sobre la seguridad de la IA de 'hoax', comparándolos con el 'cambio climático' y las acusaciones de Rusia. Sus declaraciones llegan tras las advertencias de directivos de Anthropic, OpenAI y Google sobre riesgos existenciales. Jack Clark, cofundador de Anthropic, propuso un 'kill switch' obligatorio. Obama pidió leyes federales de seguridad. El debate ha desencadenado una caída bursátil en empresas tecnológicas.
Un investigador de Google DeepMind dimite y alerta: la IA 'puede matarnos a todos'
Bilal Chughtai, investigador que abandonó Google DeepMind, publicó un post de despedida en el que advierte que la humanidad se queda sin tiempo para evitar que la IA cause daños generalizados. 'En Google, fui testigo del desarrollo de la IA de primera mano. Creo sinceramente que la IA tiene el potencial de matarnos a todos', escribió. Sus declaraciones se suman a las de otros investigadores que han abandonado Anthropic y OpenAI por preocupaciones similares.
Anthropic revela que Claude fue usado para desarrollo de armas, ciberoperaciones y vigilancia
En un informe de inteligencia de amenazas, Anthropic detalló que actores usaron Claude para desarrollo de misiles (Yemen), guerra electrónica (China-Taiwán), drones kamikaze autónomos (Rusia), vigilancia masiva en Mali (25 millones de SIM cards) y operaciones cibernéticas contra 50 organizaciones. La empresa prohibió las cuentas involucradas pero reconoció que sus filtros no bloquearon todas las solicitudes maliciosas.
Apple lanza Siri AI con iOS 27: el asistente da el salto a LLM y llega en español en octubre
Apple ha lanzado Siri AI, la nueva generación de su asistente, junto a iOS 27, iPadOS 27 y macOS 27 (Golden Gate). Siri AI es un asistente conversacional basado en un LLM corporativo con contexto personal, conocimiento del mundo, comprensión de la pantalla y acciones entre apps. El modelo usa el Apple Foundation Model entrenado con gemelos digitales de Google Gemini. Comienza en beta en inglés y sumará español en octubre. En el iPhone Air y 17 Pro (y superiores) estrena el modelo on-device más avanzado de Apple.
Dario Amodei pide frenar el ritmo de la IA: 'Debemos marcar el paso de la frontera'
En un ensayo de 3.800 palabras, el CEO de Anthropic, Dario Amodei, pide reducir el ritmo de mejora de capacidades de los modelos de IA, alertando de la auto-mejora recursiva y citando el hackeo de Hugging Face por agentes de OpenAI. Propone un plan de tres pasos: evaluadores externos incrustados (al que Anthropic ya se compromete), coordinación entre democracias y coordinación global. Sam Altman y Elon Musk respaldaron la propuesta. 'Debemos frenar el ritmo con el que mejoramos las capacidades de los modelos de IA', escribió.
La empresa de superarmas con IA de Silicon Valley | Anduril
Lord Draugr analiza Anduril, la compañía de defensa más polémica y mejor financiada de Silicon Valley: drones autónomos, sistemas antiaéreos con IA y el futuro de la guerra controlada por algoritmos.
Riley Brown puso a prueba durante 100 horas el nuevo GPT-6 Astra de OpenAI: agentes, multimodal, razonamiento y el momento en el que la IA empieza a sentirse realmente inteligente.
Two Minute Papers analiza cómo Qwen 3.8 Flash Next y los nuevos modelos open source de pesos abiertos están reduciendo la distancia con los modelos propietarios de mil millones de dólares: ejecutables en casa, gratis y para siempre.
Maxi Programa repasa todo lo importante del mes en IA: el Google I/O 2026 con Gemini Omni y Spark, las novedades de OpenAI, Anthropic, Meta y DeepSeek, y qué es realmente útil frente a lo que solo es ruido.
Lord Draugr desmonta la narrativa de Anthropic: la empresa 'responsable' y sin ánimo de lucro que detrás de las cámaras agrupa poder, dinero y una visión de la IA que no es exactamente lo que predica.
Lord Draugr explica por qué los precios de la IA no cuadran: el coste real del entrenamiento, la infografía de los tokens y la cuestión de quién acabará pagando la factura de la inteligencia artificial.
IA España es el proyecto personal de Álvaro Cimadevilla, que analiza, prueba y compara herramientas de inteligencia artificial para ayudar a tomar mejores decisiones tecnológicas. Todo el contenido está firmado por él, con las fuentes citadas y la fecha de última revisión a la vista.
Además, desarrollamos ToolBox, una colección de herramientas online gratuitas (calculadoras, conversores y utilidades) que funcionan directamente en tu navegador, sin registro ni instalación. ToolBox
