Desde el estreno de Chatgpt en 2022, la IA generativa ingresó rápidamente a nuestro trabajo, estudio y vidas personales, ayudando a acelerar la investigación, la creación de contenido y más a un ritmo sin precedentes.

El entusiasmo por las herramientas de IA generativas ha ganadería tracción comprensible Probar una tasa de asimilación aún más rápida que Internet o PCSpero los expertos advierten que debemos proceder con precaución. Al igual que con todas las nuevas tecnologías, la IA generativa puede divulgar a la sociedad cerca de delante de varias maneras, pero además puede traer consecuencias si no se controla.

Una de esas voces es Natasha Govender-Ropert, jerarca de IA por delitos financieros en Rabobank. Se unió al fundador de TNW, Boris Veldhuijzen Van Zanten, en el postrer episodio de “Kia’s Next Big Drive” para departir de ética de IA, sesgo y si estamos subcontratando nuestros cerebros a las máquinas.

Echa un vistazo a la entrevista completa, grabada en ruta a TNW2025 en EV9 totalmente eléctrico de Kia:

Una pregunta que debería estar en nuestras mentes es, a medida que recurrimos a la IA generativa cada vez más para las respuestas, ¿qué impacto podría tener esta dependencia en nuestra propia inteligencia?

Un nuevo Estudio de MIT En el uso de ChatGPT para escribir ensayos se ha convertido en una serie de titulares sensacionalistas, desde “los investigadores dicen que usar chatgpt puede pudrir su cerebro” hasta “chatgpt podría estar haciéndolo perezoso y tonto”. Es que en efectividad el caso?

Tu cerebro en la gen ai

Esto es lo que de hecho Sucedió: los investigadores dieron a 54 estudiantes del radio de Boston una tarea de test. Un género usó ChatGPT, otro usó Google (sin la ayuda de IA), y el tercero tuvo que escribir usando carencia más que sus cerebros. Mientras escribieron, su actividad cerebral se midió usando electrodos.

A posteriori de tres sesiones, el género solo cerebral mostró los niveles más altos de conectividad mental. ¿Usuarios de chatgpt? El más bajo. Parecía que la multitud asistida de AI estaba navegando en piloto instintivo, mientras que los otros tenían que pensar más para obtener palabras en la página.

Para la cuarta ronda, los roles se invirtieron. El género solo por cerebro pudo usar ChatGPT esta vez, mientras que el género de IA tuvo que ir solo. El resultado? El primero mejoró sus ensayos. Este postrer luchó para memorar lo que habían escrito en primer lado.

En normal, el estudio encontró que durante los cuatro meses durante los cuales se llevó a promontorio, los participantes solo por cerebro superaron a los otros grupos en términos de niveles neuronales, lingüísticos y de comportamiento, mientras que aquellos que usaron ChatGPT pasaron menos tiempo en sus ensayos, simplemente golpeando la copia/peatilla.

Los profesores de inglés que revisaron su trabajo dijeron que carecía de pensamiento innovador y “alma”. Suena inquietante, ¿verdad? Quizás, pero la verdad es más complicada de lo que sugieren los titulares sensacionalistas.

Los hallazgos fueron menos sobre la descomposición del cerebro y más sobre los atajos mentales. Mostraron que la sobreventa en los LLM puede compendiar el compromiso mental. Pero con un uso activo y ponderado, se pueden evitar esos riesgos. Los investigadores además enfatizaron que, si adecuadamente el estudio planteó algunas preguntas interesantes para futuras investigaciones, además era demasiado pequeño y simple sacar conclusiones definitivas.

La homicidio del pensamiento crítico?

Si adecuadamente los hallazgos (que aún no se han revisado por pares) ciertamente requieren una longevo investigación y una advertencia más profunda sobre cómo deberíamos usar esta útil en contextos educativos, profesionales y personales, tal vez lo que verdaderamente podría estar pudriendo nuestros cerebros es los titulares de TLDR diseñados para hacer clics sobre la precisión.

Los investigadores parecen compartir estas preocupaciones. Crearon un Sitio web con una página de preguntas frecuentes donde instaron a los periodistas a no usar un verbo inexacto y sensacionalizar los hallazgos.

Irónicamente, atribuyeron el “ruido” resultante a los reporteros que usan LLM para resumir el documento y agregaron: “Sus comentarios humanos son muy bienvenidos, si lee el documento o partes de él. Encima, como recordatorio, el estudio tiene una nómina de limitaciones que enumeramos muy claramente tanto en el documento como en la página web”.

Hay dos conclusiones que podemos sacar de forma segura de este estudio:

• Es esencial más investigación sobre cómo los LLM en entornos educativos
• Los estudiantes, los reporteros y el conocido en normal deben permanecer críticos con la información que recibimos, ya sea de los medios o la IA generativa.

Investigadores de la Universidad VU Amsterdam Están preocupados que, con nuestra creciente dependencia de los LLM, lo que verdaderamente podría estar en peligro es un pensamiento crítico, o nuestra capacidad y disposición para cuestionar y cambiar las normas sociales.

“Los estudiantes pueden tener menos probabilidades de aguantar a promontorio procesos de búsqueda extensos o integrales en sí mismos, porque difieren al tono acreditado e informado de la producción de Genai. Es menos probable que cuestionen, o incluso identifiquen, las perspectivas no declaradas subyacentes a la producción, sin considerar cuyas perspectivas están siendo pasadas y las supuestas de otorgadas a cortesía informadas”.

Estos riesgos apuntan a un problema más profundo en la IA. Cuando tomamos sus horizontes al valencia nominativo, podemos acontecer por suspensión sesgos integrados y suposiciones sin resolver. Asaltar esto requiere no solo soluciones técnicas, sino una advertencia crítica sobre lo que queremos afirmar con sesgo en primer lado.

Estos problemas son fundamentales para el trabajo de Natasha Govender-Ropert, jerarca de IA para delitos financieros en Rabobank. Su papel se centra en construir una IA responsable y confiable al desarrayar el sesgo. Pero como señaló al fundador de TNW, Boris Veldhuijzen, Van Zanten en “Kia’s Next Big Drive”, el sesgo es un término subjetivo y debe definirse para cada individuo y cada empresa.

“El sesgo no tiene una definición consistente. Lo que considero sesgado o imparcial puede ser diferente a otra persona. Esto es poco que nosotros, como humanos y como individuos, necesitamos lanzarse. Necesitamos designar y afirmar que este es el normalizado de principios que aplicaremos al mirar nuestros datos”, dijo Govender-Ropert.

Las normas y prejuicios sociales no son fijos sino siempre cambiantes. A medida que la sociedad evoluciona, los datos históricos en los que capacitamos a nuestros LLM no lo hacen. Necesitamos seguir siendo críticos y desafiar la información que recibimos, ya sea de nuestros compañeros humanos o nuestras máquinas, para construir una sociedad más desafío y equitativa.