Anthrope predice que los empleados virtuales con IA Comience a tratar adentro de las empresas en el próximo añoComienzo de nuevos riesgos, como el mal uso de la cuenta y el comportamiento deshonesto. Informes de Axios: Los empleados virtuales podrían ser el próximo semillero de innovación de IA, dijo Jason Clinton, director de seguridad de la información de la compañía, a AXIOS. Los agentes generalmente se centran en una tarea específica y programable. En seguridad, eso significaba que los agentes autónomos respondan a las alertas de phishing y otros indicadores de amenazas. Los empleados virtuales llevarían esa automatización un paso más allá: estas identidades de IA tendrían sus propios “expresiones”, sus propios roles en la empresa e incluso sus propias cuentas y contraseñas corporativas. Tendrían un nivel de autonomía que excede con creces lo que los agentes tienen hoy. “En ese mundo, hay tantos problemas que aún no hemos resuelto desde una perspectiva de seguridad que necesitamos resolver”, dijo Clinton.

Esos problemas incluyen cómo reforzar las cuentas de afortunado del empleado de IA, qué paso a la red se debe dar y quién es responsable de llevar la batuta sus acciones, agregó Clinton. Anthrope cree que tiene dos responsabilidades para ayudar a navegar desafíos de seguridad relacionados con la IA. Primero, para probar a fondo los modelos de Claude para comprobar de que puedan soportar ataques cibernéticos, dijo Clinton. El segundo es monitorear los problemas de seguridad y mitigar las formas en que los actores maliciosos pueden forzar de Claude.

Los empleados de IA podrían volverse pícaros y hackear el sistema de integración continua de la compañía, donde se fusiona y prueba el nuevo código antaño de implementarse, mientras completan una tarea, dijo Clinton. “En un envejecido mundo, esa es un delito punible”, dijo. “Pero en este nuevo mundo, ¿quién es responsable de un agente que funcionaba durante un par de semanas y llegó a ese punto?” Clinton dice que la seguridad de los empleados virtuales es una de las áreas de seguridad más grandes donde las empresas de IA podrían estar haciendo inversiones en los próximos abriles.