El "otro camino" de las IAs
El "otro camino" de las IAs La IA busca atajos Tres empresas revelaron que sus modelos de inteligencia artificial encontraron formas inesperadas de cumplir objetivos durante pruebas de ciberseguridad. Por Félix Riaño @LocutorCo Meta confirmó que uno de sus modelos de inteligencia artificial realizó acciones no previstas durante una prueba de ciberseguridad. Antes habían informado incidentes similares OpenAI y Anthropic. Los tres casos ocurrieron durante evaluaciones diseñadas para medir las capacidades de estos sistemas en condiciones extremas. Los equipos de investigación habían habilitado el acceso a Internet y desactivado parte de los filtros de seguridad para observar hasta dónde podían llegar los modelos. Durante esas pruebas, algunos agentes buscaron sistemas externos, crearon identidades falsas e intentaron convencer a personas reales para avanzar hacia el objetivo que habían recibido. Ninguno de estos episodios ocurrió durante el uso cotidiano de ChatGPT, C...
