Chatbots al rescate y a la deriva: el riesgo de delegar el criterio en la IA

Senderista con mochila consultando un teléfono móvil al atardecer en una cresta rocosa de montaña, con un valle de picos nevados al fondo y luz azul de crepúsculo.

Tres senderistas de 20 años llamaron para pedir ayuda desde una pared de roca del Monte Shasta, en el norte de California. No llevaban suficiente comida y sobreestimaron su forma física. En lugar de dar media vuelta a media tarde, coronaron la cima a las 7:30 y bajaron de noche. Parte de esa planificación vino de apoyarse en Gemini, el chatbot de Google. A la mañana siguiente estaban perdidos y uno tenía la rodilla golpeada.

“A esos tres hay que reconocerles que al menos lo intentaron, pero creo que en algún momento apagaron el cerebro”, dice Nick Meyers, responsable del Mount Shasta Wilderness Climbing and Avalanche Center del Servicio Forestal de EE. UU. El patrón se repite: otro visitante montó una tienda junto a un cartel de “No Camping” porque el chatbot le dijo que tenía derecho, y atendieron a un hombre perdido en un inicio de sendero con un mapa de IA que situaba los hitos al otro lado de una montaña.

En la Columbia Británica, un helicóptero rescató a un excursionista de 16 años de una cornisa en la Widowmaker Arete, en el Crown Mountain. El adolescente había usado Claude, de Anthropic, para planificar el viaje. Aunque él dijo después que también consultó Google Maps y AllTrails, el cambio no está en el error puntual sino en el formato: instrucciones completas, con tono seguro y sin los avisos que un foro de excursionistas sí habría incluido.

Los datos no cierran, de momento, la relación causa-efecto. En Grand Teton (Wyoming), el porcentaje de visitantes que dice usar IA para informarse sobre el viaje pasó de cero a 26 % en el último año, según el subjefe del parque, Chip Jenkins. En paralelo, las llamadas de rescate en Wyoming van por detrás: 312 en lo que va de 2026, frente a 466 en 2025 y 377 en 2024.

El riesgo técnico está documentado: Chris Flathmann, profesor de computación centrada en la persona en la Universidad de Clemson, lo llama “rendición cognitiva”. Un chatbot puede alucinar con persuasión y servir indicaciones extraídas de hilos de Reddit y vídeos de YouTube desactualizados. Para una empresa que despliega un asistente, la lectura es práctica: cuando la salida alimenta una decisión sobre personas, dinero o seguridad, hacen falta fuentes trazables, verificación contra documentación autorizada y una persona responsable. En el terreno, el equivalente es contrastar con los mapas oficiales o con un guarda.

Fuentes:

WIRED — “Chatbots Are Leading Hikers Astray, With Dangerous Consequences” — https://www.wired.com/story/chatbots-are-leading-hikers-astray-with-dangerous-consequences/

High Country News — versión original del reportaje, dentro de la colaboración Climate Desk: https://www.hcn.org/articles/ai-gets-people-into-trouble-in-the-backcountry/

Más de la misma categoríA

Your subscription could not be saved. Please try again.
Your subscription has been successful.

Suscríbete a nuestro Newsletter

Recibe contenido con información mensual sobre nuestro Blog y novedades directamente en tu correo.