Circuit Breaker Labs espera hacer que la IA sea más segura para sus hijos (y para usted)
Con toda la charla sobre cómo la IA podría algún día matarnos a todos, es fácil olvidar que la IA ya ha puesto en peligro la vida de algunos, no a través de armas biológicas, sino psicológicamente.
Por ejemplo, Character.AI resolvió varias demandas por homicidio culposo presentadas a principios de este año por familias de usuarios menores de edad que se suicidaron después de interactuar con sus bots. Múltiples familias también han demandado el supuesto papel de OpenAIover ChatGPT en los suicidios y delirios de sus seres queridos.
Hacer que la IA sea más segura en todos los idiomas y culturas es la misión de Circuit Breaker Labs, uno de los finalistas de 2026 Startup Battlefield 200 de TechCrunch. (Circuit Breaker estará presente en TechCrunch Disrupt, que tendrá lugar este año en Moscone West en San Francisco del 13 al 15 de octubre).
Los fundadores Shirali y Arul Nigam, que son hermanos, fueron motivados por Sewell Setzer, el joven de 14 años que desarrolló un apego emocional a un chatbot de Character.AI y le confesó pensamientos de hacerse daño antes de morir por suicidio. El chatbot, alegaron los padres en una demanda de 2024, lo animó. Es posible que el bot no haya entendido lo que realmente implicaban palabras como «Quiero estar contigo», dijo Arul, quien es el CTO de Circuit Breaker Labs.
QUERY LENGTH LIMIT EXCEEDED. MAX ALLOWED QUERY : 500 CHARS
Fuente: TechCrunch
