Los tests de seguridad de la IA se han convertido en un riesgo de seguridad wwwhatsnew.com/2026/08/10/tests-seguridad-ia-riesgo-sandboxing-falla/
Seguir leyendoEtiqueta: security
OpenAI lanza “ChatGPT para Adolescentes”: ahora los padres recibirán alertas si su hijo escribe un prompt inapropiado
OpenAI lanza “ChatGPT para Adolescentes”: ahora los padres recibirán alertas si su hijo escribe un prompt inapropiado | WIRED ChatGPT para Adolescentes cuenta con controles parentales más robustos y un modo de estudio que permite al chatbot formular preguntas de seguimiento para ayudar a los estudiantes a aprender. es.wired.com/articulos/openai-lanza-chatgpt-para-adolescentes-ahora-los-padres-recibiran-alertas-si-su-hijo-escribe-un-prompt-inapropiado
Seguir leyendoOpenAI frena el desarrollo de su modelo más potente
OpenAI retrasa su próximo proyecto luego de la saga de hackeos hechos por sus agentes de IA | WIRED La gigante afirma que su próximo modelo, Astra, podría haber alcanzado capacidades críticas en ciberseguridad, lo que la llevó a pausar una parte importante de su entrenamiento mientras refuerza sus medidas
Seguir leyendoOpenAI dissout son équipe de sûreté Preparedness
OpenAI dissout son équipe de sûreté Preparedness posthumain.com/intelligence-artificielle/openai-dissout-equipe-chargee-evaluer-ia-dangereuses/ OpenAI dissout l’équipe chargée d’évaluer si ses propres IA sont dangereuses Fin juillet, OpenAI a démantelé sans annonce Preparedness, l’équipe dont le seul métier était de juger si ses modèles pouvaient devenir dangereux. Troisième équipe de sûreté supprimée en deux ans, à
Seguir leyendoPrompt injection isn’t the bug, AI agent frameworks are
Prompt injection isn’t the bug, AI agent frameworks are Check Point researchers tried to break the frameworks enterprises use to build AI apps. Now they’re telling Black Hat attendees what they found www.theregister.com/security/2026/08/05/prompt-injection-isnt-the-bug-ai-agent-frameworks-are/5283585
Seguir leyendoLanzar, fallar y borrar: El método de Silicon Valley para probar IA es cada vez más peligroso
Lanzar, fallar y borrar: El método de Silicon Valley para probar IA es cada vez más peligroso | WIRED Google y Meta retiraron rápidamente dos funciones de IA que podían ser objeto de abuso con facilidad. Pero dar marcha atrás en un lanzamiento no repara el daño que este ha
Seguir leyendoPolítica de uso de Inteligencia Artificial en la empresa: Guía y Plantilla
Política de uso de Inteligencia Artificial en la empresa: Guía y Plantilla – SocraTech socratech.es/blog/politica-de-uso-de-inteligencia-artificial-en-la-empresa/
Seguir leyendoArranca la era del etiquetado obligatorio de la IA en Europa: la industria ya avisa de que nadie va a hacerle caso
Arranca la era del etiquetado obligatorio de la IA en Europa: la industria ya avisa de que nadie va a hacerle caso www.xataka.com/legislacion-y-derechos/arranca-era-etiquetado-obligatorio-ia-europa-industria-avisa-que-nadie-va-a-hacerle-caso Desde ayer toda la IA que finge ser real debe llevar etiqueta en la UE, aunque medio internet se libra por la puerta de atrás
Seguir leyendoI taught ChatGPT, Claude, and Gemini the same lie — then tried to erase it
I taught ChatGPT, Claude, and Gemini the same lie — then tried to erase it www.makeuseof.com/taught-chatgpt-claude-and-gemini-the-same-lie-then-tried-to-erase-it/ Every AI tool has some version of memory now From blank slate to total recall So, I lied to all three of them Picking a fact that wasn’t true The next step was testing
Seguir leyendo«Mythos es un arma total. Deberías necesitar una licencia de armas para usarlo»
Dario Amodei, CEO de Anthropic: «Mythos es un arma total. Deberías necesitar una licencia de armas para usarlo» www.xataka.com/robotica-e-ia/traicionas-tus-valores-te-vuelves-irrelevante-dario-amodei-nos-ha-avisado-que-se-nos-viene-encima-ia
Seguir leyendo