OpenAI suspende a un desarrollador por usar su tecnología para imitar a un candidato político

OpenAI suspende a un desarrollador por crear un chatbot que simulaba al candidato demócrata Dean Phillips. El chatbot, bautizado como Dean.Bot, se basaba en ChatGPT, una tecnología de OpenAI, para impulsar la campaña de Phillips, según reportó The Washington Post. El chatbot fue desarrollado por Delphi, una startup de inteligencia artificial, para el super PAC We Deserve Better, que apoya a Phillips.

Dean.Bot no se presentaba como Phillips directamente; antes de iniciar una conversación con Dean.Bot, los visitantes de la web veían un aviso que aclaraba la naturaleza del chatbot. Aun así, este tipo de uso infringe las políticas de OpenAI. Un portavoz de la empresa confirmó la suspensión del desarrollador en un comunicado al Post. Esto sucede pocas semanas después de que OpenAI publicara un amplio artículo en su blog sobre las medidas que está adoptando para prevenir el mal uso de su tecnología de cara a las elecciones de 2024, citando expresamente los “chatbots que se hacen pasar por candidatos” como un ejemplo de lo que no está permitido.

OpenAI también afirmó en su blog que no “permite que la gente construya aplicaciones para hacer campaña política y cabildeo”. Según una historia previa de The Washington Post, el objetivo de Dean.Bot era captar a posibles seguidores y transmitir el mensaje del candidato. Tras la consulta del Post, Delphi quitó inicialmente ChatGPT del bot y lo dejó funcionando con otras herramientas de código abierto antes de desactivarlo definitivamente el viernes por la noche cuando OpenAI intervino.

- Partners -

Si visitas el sitio ahora, todavía verás el aviso, pero el chatbot está fuera de servicio debido a “problemas técnicos”, mostrando a los visitantes el mensaje: “¡Disculpas, DeanBot está fuera haciendo campaña ahora mismo!”.