La gente está expresando su preocupación por el hecho de que los chatbots de IA reemplacen o atrofien la inteligencia humana. Por ejemplo, el chatbot puede escribir un artículo sobre cualquier tema de manera eficiente (aunque no necesariamente precisa) en segundos, eliminando potencialmente la necesidad de un escritor humano.
El chatbot también puede escribir un ensayo completo en segundos, lo que facilita que los estudiantes hagan trampa o eviten aprender a escribir correctamente. Esto incluso llevó a algunos distritos escolares a bloquear el acceso cuando se lanzó inicialmente ChatGPT.
Además: la IA generativa puede ser el asistente académico que necesita un estudiante desatendido
Ahora, muchas de esas escuelas no solo han decidido desbloquear la tecnología, sino que algunas instituciones de educación superior han mostrado interés en la IA adaptando su oferta académica a cursos relacionados con la IA.
Otra preocupación con el chatbot de IA es la posible difusión de información errónea. Dado que el bot no está conectado a Internet, podría cometer errores en la información que comparte.
Además: Microsoft y OpenAI detectan e interrumpen las amenazas cibernéticas de los estados nacionales que utilizan IA, según muestra un informe
El propio robot dice: “Mis respuestas no pretenden ser tomadas como hechos, y siempre animo a las personas a verificar cualquier información que reciban de mí o de cualquier otra fuente”. OpenAI también señala que ChatGPT a veces escribe “respuestas que suenan plausibles pero incorrectas o sin sentido”.
Por último, existen preocupaciones éticas con respecto a la información con la que se entrenó ChatGPT desde que la empresa buscó Internet para entrenar el chatbot.
También utiliza automáticamente las interacciones de las personas con la versión gratuita del chatbot para entrenar aún más sus modelos, lo que genera preocupaciones sobre la privacidad. Sin embargo, OpenAI permite a los usuarios desactivar la configuración de entrenamiento.