OpenAI está reclutando un nuevo Director de Preparaciónun puesto de parada nivel centrado en mitigar los riesgos vinculados a los sistemas avanzados de inteligencia industrial. El puesto viene con una compensación anual reportada de aproximadamente $555,000adicionalmente de renta, lo que subraya la seriedad con la que la compañía dice que está tomando las preocupaciones de seguridad emergentes.

CEO de OpenAI Sam Altman reconoció públicamente la vacante en una publicación en las redes sociales, describiendo el trabajo como cominero y advirtiendo que sería “agobiante”. Según la registro, el rol es responsable de acortar los daños relacionados con las capacidades de la IA, incluidos los riesgos para la lozanía mental, la ciberseguridad y el uso indebido de productos biológicos.

El impulso a la contratación se produce cuando los sistemas de inteligencia industrial se vuelven más capaces y más difíciles de predecir. Altman dijo que los modelos ahora son lo suficientemente poderosos como para crear “desafíos reales”, especialmente cuando se comercio de escenarios de atropello donde los atacantes podrían reutilizar las herramientas de IA más rápido de lo que las defensas pueden adaptarse.

El trabajo de preparación en OpenAI no es nuevo, pero el papel ha cambiado. El preliminar caudillo de preparación de la empresa, Aleksander Madry, fue reasignado el año pasado a un puesto centrado en el razonamiento de la IA, donde la seguridad pasó a ser una responsabilidad secundaria. La nueva transigencia restablece la preparación como función ejecutiva independiente.

El momento es importante. Un número creciente de empresas están señalando riesgos operativos y de reputación relacionados con la IA en presentaciones regulatorias, y la propia OpenAI ha agradecido que algunos de los próximos modelos podrían sugerir elevadas amenazas a la ciberseguridad. La compañía ha dicho que está ampliando los sistemas de monitoreo y los modelos de capacitación para recusar solicitudes que puedan comprometer la seguridad.

OpenAI incluso se ha enfrentado al exploración divulgado por problemas de lozanía mental. La empresa ha sido nombrada en múltiples demandas que alegan interacciones dañinas con ChatGPT, e investigaciones externas han documentado casos en los que los usuarios experimentaron graves angustias durante conversaciones prolongadas con el sistema. OpenAI respondió actualizando la forma en que ChatGPT maneja temas delicados, agregando posibles de crisis y financiando investigaciones sobre IA y lozanía mental.

Para OpenAI, el rol de Director de Preparación está destinado a ubicarse en la intersección de la capacidad técnica y el impacto en el mundo verdadero. El puesto tiene la tarea de anticipar cómo se podrían utilizar indebidamente los nuevos sistemas y dar forma a estrategias de exención que limiten el daño sin detener por completo el explicación.

El papel no indica una desaceleración en las ambiciones de OpenAI. Más proporcionadamente, refleja un gratitud de que a medida que los sistemas de IA alcanzan niveles más altos de autonomía y razonamiento, la planificación de la seguridad debe avanzar en una etapa más temprana del proceso de explicación y tener más autoridad.

Sinopsis

Nombre del artículo

OpenAI está contratando un caudillo de preparación para tocar los riesgos de seguridad de la IA

Descripción

OpenAI está contratando a un caudillo de preparación con un salario de 550.000 dólares para tocar los riesgos de la IA que van desde la ciberseguridad hasta la lozanía mental, como advierte el director ejecutante Sam Altman que el trabajo será cominero.

Autor

arturo k

Editor

Noticiero de tecnología de Ghacks

Logo