Sigue a ZDNET: Agréganos como fuente preferida en Google.

Takeaways de picaporte de ZDNET

• La FTC está investigando siete compañías tecnológicas que construyen compañeros de IA.
• La sonda explora los riesgos de seguridad planteados para niños y adolescentes.
• Muchas compañías tecnológicas ofrecen compañeros de IA para impulsar la billete del heredero.

La Comisión Federal de Comercio (FTC) está investigando los riesgos de seguridad planteados por los compañeros de IA para niños y adolescentes, la agencia anunciado Jueves.

El regulador federal presentó órdenes a siete compañías tecnológicas que construyen herramientas de compañía de IA orientadas al consumidor (Alphabet, Instagram, Meta, OpenAI, Snap, XAI y tecnologías de caracteres (la compañía detrás de la plataforma de creación de chatbot.

Encima: incluso el CEO de OpenAi, Sam Altman, cree que no debes creer en la IA para la terapia

“La investigación de la FTC sondeo comprender qué pasos, si alguno, las empresas han tomado para evaluar la seguridad de sus chatbots al comportarse como compañeros, deslindar el uso de los productos y los posibles mercancía negativos en los niños y los adolescentes, y para informar a los usuarios y padres de los riesgos asociados con los productos”, escribió la agencia en el comunicado.

Esas órdenes se emitieron bajo la Sección 6 (b) de la Ley FTC, que otorga a la agencia la autoridad para analizar a las empresas sin un propósito específico de aplicación de la ley.

El avance y la caída (fuera) de los compañeros de AI

Muchas compañías tecnológicas han comenzado a ofrecer herramientas de compañía de IA en un esfuerzo por monetizar los sistemas generativos de IA y aumentar la billete del heredero con las plataformas existentes. El fundador y CEO de Meta, Mark Zuckerberg, tiene ni siquiera reclamado Que estos compañeros virtuales, que aprovechan los chatbots para reponer a las consultas de los usuarios, podrían ayudar a mitigar la flujo de soledad.

XAI de Elon Musk recientemente agregó dos compañeros de IA coquetos al nivel de suscripción “Super Grok” de $ 30/mes de la compañía (la aplicación Grok está actualmente apto a los usuarios mayores de 12 abriles en la App Store). El verano pasado, Meta comenzó Rolando una característica Eso permite a los usuarios crear caracteres de IA personalizados en Instagram, WhatsApp y Messenger. Otras plataformas como Replika, Paradot y Carácter. AI se construyen expresamente en torno a del uso de compañeros de IA.

Además: Anthrope dice que Claude ayuda emocionalmente a apoyar a los usuarios: no estamos convencidos

Mientras varían en sus estilos de comunicación y protocolo, los compañeros de IA generalmente están diseñados para imitar el palabra y la expresión humana. Trabajando internamente de lo que es esencialmente un vano regulatorio con muy pocas barandillas legales para limitarlos, algunas compañías de IA han recogido un enfoque éticamente dudoso para construir y desplegar compañeros virtuales.

Una nota de política interna de meta reportado por Reuters El mes pasado, por ejemplo, muestra que la compañía le permitió a Meta AI, su asistente potencial con IA y los otros chatbots que operan en su tribu de aplicaciones “para involucrar a un criatura en conversaciones que son románticas o sensuales”, y originar respuestas inflamatorias en una variedad de otros temas sensibles como la raza, la lozanía y las celebridades.

Mientras tanto, ha habido una tormenta de cocaína de informes recientes de usuarios que desarrollan lazos románticos con sus compañeros de IA. OpenAi y personaje. Los padres están siendo demandados por padres que alegan que sus hijos se suicidaron luego de ser alentados a hacerlo por ChatGPT y un bot alojado en el personaje. Ai, respectivamente. Como resultado, OpenAI actualizó las barandillas de Chatgpt y dijo que expandiría las protecciones de los padres y las precauciones de seguridad.

Además: los pacientes confían en el consejo médico de IA sobre los médicos, incluso cuando está mal, el estudio encuentra

Sin confiscación, los compañeros de IA no han sido un desastre completamente no mitigado. Algunas personas autistas, por ejemplo, las han usado de compañías como Replika y Paradot como Socios de conversación potencial Para practicar habilidades sociales que luego se pueden aplicar en el mundo verdadero con otros humanos.

Proteger a los niños, pero incluso, sigue construyendo

Bajo el liderazgo de su previo presidenta, Lina Khan, la FTC lanzó varias consultas a compañías tecnológicas para investigar prácticas potencialmente anticompetitivas y otras prácticas legalmente cuestionables, como “Precios de vigilancia“

El pesquisa federal sobre el sector tecnológico se ha relajado más durante la segunda agencia Trump. El presidente rescindió la orden ejecutiva de su predecesor sobre IA, que buscó implementar algunas restricciones en torno al despliegue de la tecnología, y su plan de batalla de IA se ha interpretado en gran medida como una luz verde para que la industria avance con la construcción de una infraestructura costosa e intensiva en energía para capacitar nuevos modelos de IA, para perseverar una preeminencia competitiva sobre los esfuerzos de AI de China.

Además: ¿Preocupado por las altas deposición de energía de la IA? Evitar chatbots no ayudará, pero 3 cosas podrían

El lengua de la nueva investigación de la FTC sobre los compañeros de IA refleja claramente el enfoque permisivo y de construcción de la agencia flagrante para la IA.

“Proteger a Kids Online es una prioridad para la FTC de Trump-Vance, y incluso lo es fomentar la innovación en los sectores críticos de nuestra pertenencias”, escribió el presidente de la agencia, Andrew N. Ferguson, en un comunicado. “A medida que evolucionan las tecnologías de IA, es importante considerar los mercancía que los chatbots pueden tener en los niños, al tiempo que garantiza que Estados Unidos mantenga su papel como líder mundial en esta nueva y emocionante industria”.

Encima: usé este truco de chatgpt para agenciárselas códigos de cupón, y guardé un 25% en mi cena esta perplejidad

En marcha de regulación federal, algunos funcionarios estatales han tomado la iniciativa de controlar algunos aspectos de la industria de la IA. El mes pasado, el fiscal caudillo de Texas Ken Paxton lanzó una investigación en meta y carácter. “Para participar potencialmente en prácticas comerciales engañosas y comercializarse engañosamente como herramientas de lozanía mental”. A principios del mismo mes, Illinois promulgó una ley Prohibir los chatbots de IA proporcionando asesoramiento terapéutico o de lozanía mental, imponiendo multas de hasta $ 10,000 para las compañías de IA que no cumplen.