Anthropic está formando un equipo centrado en la seguridad de la Inteligencia Artificial (IA) que liderará Jan Leike tras su salida de la firma OpenAI y que permitirá avanzar con la misión de superalineación.

Leike dirigirá un nuevo equipo en Anthropic, responsable de los modelos Claude, que se centrará en «la supervisión escalable, la generalización de débil a fuerte y la investigación de alineación automatizada», como él mismo ha compartido en su perfil en X (antigua Twitter).

Este investigador reportará directamente al responsable de de Ciencia de Anthropic, Jared Kaplan, y supervisará a los trabajadores que actualmente investigan sobre supervisión escalable, como informan en TechCrunch, que cita una fuente conocedora del asunto.

Leike ha dirigido en el último año un equipo en OpenAI centrado exclusivamente en la investigación y control de la futura tecnología de superinteligencia, pero anunció su dimisión hace unos días, denunciando que la compañía no invierte lo suficiente en este área.

Precisamente, el nuevo equipo que dirigirá en la firma rival tendrá un objetivo similar, ya que su misión será avanzar en la «superalineación», esto es, el desarrollo de nuevas técnicas que permitan supervisar la superinteligencia, ya que los esfuerzos humanos no serán suficientes, como ya expuso OpenAI en julio del año pasado.