Hemos gastado que la inteligencia fabricado da respuestas sobrado extrañas a las consultas a medida que los chatbots se vuelven más comunes. Hoy, Reddit Answers está en el centro de atención a posteriori de que un moderador impresionado la útil de inteligencia fabricado para dedicar consejos médicos peligrosos que no pudieron desactivar u ocultar de la apariencia.

El mod vio Reddit Answers sugerir que las personas que experimentan dolor crónico dejen de tomar sus recetas actuales y tomen altas dosis de kratom, que es una sustancia no regulada que es ilegal en algunos estados. El legatario dijo que luego le preguntó a Reddit Answers sobre otras preguntas médicas. Recibieron consejos potencialmente peligrosos para tratar la fiebre neonatal unido con algunas acciones precisas, así como sugerencias de que la heroína podría estar de moda para aliviar el dolor crónico. Varios otros mods, particularmente de subreddits centrados en la sanidad, respondieron a la publicación llamativo y agregaron su preocupación de que no tienen forma de desactivar o marcar un problema cuando Reddit Answers ha proporcionado información inexacta o peligrosa en sus comunidades.

Un representante de Reddit dijo 404 Medios que Reddit Answers se había actualizado para encarar algunas de las preocupaciones de los mods. “Esta aggiornamento garantiza que las ‘Respuestas relacionadas’ a temas delicados, que anteriormente podían poseer sido visibles en la página de detalles de la publicación (igualmente conocida como página de conversación), ya no se mostrarán”, dijo el portavoz a la publicación. “Este cambio se ha implementado para mejorar la experiencia del legatario y perseverar una visibilidad adecuada del contenido adentro de la plataforma”. Nos comunicamos con Reddit para obtener comentarios adicionales sobre los temas que se están excluyendo, pero no hemos recibido una respuesta en este momento.

Mientras el representante le decía 404 Medios Aunque Reddit Answers “excluye contenido de comunidades privadas, en cuarentena y NSFW, así como algunos temas para adultos”, la útil de inteligencia fabricado claramente no parece equipada para dedicar información médica adecuadamente, y mucho menos para manejar el sarcasmo o los posibles malos consejos que pueden dar otros Redditors. Por separado de la última medida de no aparecer en “temas sensibles”, no parece que Reddit planee proporcionar ninguna útil para controlar cómo o cuándo se muestra la IA en los subreddits, lo que podría hacer que la ya desafiante tarea de moderación sea casi inútil.