OpenAI y Anthropic pusieron en marcha, por primera vez, salas de crisis orientadas a las elecciones de Estados Unidos. Las dos compañías ajustarán la vigilancia de ChatGPT y Claude para contener desinformación y usos indebidos de sus sistemas durante la votación del 3 de noviembre, según informó Semafor el 2 de noviembre.
OpenAI comunicó a Politico el 28 de octubre la creación de su Centro de Operaciones Electorales. El centro está funcionando desde esa semana y permanecerá activo hasta que se cuenten todos los votos, indicaron. Politico señaló que el equipo congrega a cientos de empleados.
La tarea principal es evitar el abuso de las propias herramientas, con un monitoreo en tiempo real y la atención de reportes sobre comportamientos inesperados de los modelos o posibles violaciones a las políticas de uso.
Quien está al mando es Josh Lawson, jefe de riesgo cívico y estratégico de OpenAI. Señaló que el centro se apoya en años de trabajo previo y reúne a los equipos para “responder con rapidez ante problemas emergentes” y aplicar las políticas mientras la gente va a votar.
Semafor recordó que Meta instaló la primera sala similar en 2018, ante el temor por desinformación electoral. Según el medio, la IA intensificó esas amenazas, ahora con videos falsos y resultados de búsqueda generados por IA que difunden información errónea. Como ejemplo citado, Semafor apuntó a que la semana pasada el modo de IA de Google no respondió a una consulta sobre quién ganó la elección de 2020; Google afirmó estar trabajando para resolverlo.
Un vocero de Anthropic explicó a Semafor que, antes de la votación, ya existe una sala dedicada a monitorear usos indebidos de la plataforma y lista para responder ante incidentes; no se detalló cuántas personas la integran.
Katie Harbath, exdirectora de política pública de Meta, comentó que estas salas se crean para lo imprevisible y que hace falta un proceso establecido para clasificar con rapidez los problemas que surjan.
En un análisis de 250.000 conversaciones de una semana divulgado el 14 de octubre, Anthropic encontró que temas de política y asuntos públicos representan el 5,75% de las interacciones de Claude.ai en Estados Unidos, y las relacionadas con elecciones o votación, el 0,51%. Las solicitudes de recomendación de voto llegaron al 0,01% y las violaciones a la integridad electoral al 0,002%; la empresa advierte que esas proporciones podrían subir a medida que se acerque la votación.
Dos think tanks independientes, el Institute for Strategic Dialogue y el McCain Institute, evaluaron las defensas de Claude. Según Anthropic, el sistema rechazaba una petición dañina aislada, pero podría no detectar una campaña maliciosa distribuida en múltiples tareas que parecían inocentes; por ello añadieron clasificadores para esos escenarios.
Anthropic también informó haber bloqueado las cuentas de operadores extranjeros de un sitio de noticias falso que utilizó Claude para producir cobertura favorable a narrativas de Rusia, Irán y Corea.
