La empresa estadounidense OpenAI quiere informar de manera más rigurosa sobre los casos en los que sus sistemas de inteligencia artificial se salen de control o se comportan de forma inesperada o preocupante. Por ello, la compañía ha presentado un nuevo sistema para el seguimiento, la investigación y la divulgación de estos incidentes.
No se lo pierda: TradeLocker vs MetaTrader
OpenAI implementa un nuevo sistema para reportar incidentes
Al mismo tiempo, OpenAI informó sobre seis incidentes previamente no divulgados que registró en los últimos seis meses. Entre ellos figuran, por ejemplo, casos de ocultamiento de información a los usuarios o de creación de información falsa. La compañía señaló que su forma de informar hasta ahora sobre este tipo de sucesos había sido menos sistemática y menos frecuente de lo que sería ideal.
El nuevo sistema tiene como objetivo garantizar una divulgación más rápida de la información, incluso en los casos en que la empresa aún no haya podido determinar con precisión la causa o el alcance de un incidente concreto. OpenAI advierte que algunos de los casos divulgados podrían resultar posteriormente ser hechos aislados, sin mayor trascendencia ni relación con la evolución futura de las tecnologías.
Lea más: eToro – Reseña del conocido bróker
La seguridad de la IA sigue siendo objeto de un debate creciente
El director de OpenAI, Sam Altman, afirmó esta semana que la gente tiene derecho a sentir preocupación por la inteligencia artificial, aunque, según él, también debería confiar en que las empresas del sector mantendrán la tecnología en un nivel seguro. Mientras tanto, el director de la empresa competidora Anthropic, Dario Amodei, hizo un llamamiento a ralentizar el desarrollo de los modelos de IA. A este llamamiento se sumaron también en la red social X el propio Altman y el empresario Elon Musk.
Parte de la comunidad investigadora lleva tiempo advirtiendo sobre los riesgos asociados al rápido desarrollo de la inteligencia artificial. La directora financiera de OpenAI, Sarah Friar, afirmó que no le preocupa un escenario en el que la IA utilizara armas de destrucción masiva contra las personas, aunque subrayó la necesidad de tomarse en serio las cuestiones de seguridad. OpenAI, que en 2022 puso ChatGPT a disposición del público, planea además salir a bolsa con sus acciones.
Consulte: Reseña de BITmarkets
Fuente: ČTK
