Puede que sea el juguete nuevo y brillante de 2023, pero eso no quiere decir que ChatGPT siempre ofrezca exactamente lo que necesitamos. Lo que puede hacer es ciertamente impresionante y ocupa un lugar destacado en la nueva generación de herramientas de IA generativa.
Pero si esperaba la perfección, es posible que se sienta decepcionado. Incluso el director ejecutivo de OpenAI, la empresa matriz de ChatGPT, llamó a la herramienta “” y dijo que “tenemos mucho trabajo que hacer en cuanto a solidez y veracidad”.
Entonces, para aquellos de nosotros que buscamos integrar la herramienta en nuestras prácticas cotidianas, ¿cuáles son los mayores desafíos que probablemente enfrentaremos?
Las indicaciones no son infinitas
Cuando envíe sus solicitudes a ChatGPT, encontrará que el campo de entrada está limitado a 2048 caracteres, lo que equivale a unas 500 palabras. Al parecer, este límite es para evitar que el sistema se sobrecargue, pero con el servicio premium, ChatGPT-4, el límite sube a 4.096 caracteres.
Otro problema relacionado es que la herramienta no siempre respetará los límites de caracteres que envíe en el mensaje. Entonces, cuando solicitas un texto determinado en 200 palabras, el resultado podría ser entre 100 y 300.
Hay límites de uso
ChatGPT actualmente restringe la cantidad de veces que puede enviar mensajes a 30 mensajes por hora para los usuarios del plan básico y un número mayor pero no especificado para los usuarios de ChatGPT Plus, aunque este límite varía con el tiempo. Cada conversación tiene hasta 3000 palabras, y si se cumple cualquiera de estos límites, el sistema mostrará un mensaje de error: Este error puede deberse al procesamiento necesario para respuestas largas o complejas.
Las respuestas pueden quedar sin terminar.
A veces, cuando le pides a ChatGPT un texto largo, o si le pides que escriba un código, la IA simplemente se detiene antes de terminar el trabajo. Todo lo que necesitas hacer es escribir “continuar”, pero obviamente sería mejor si esto no fuera necesario.
No esta actualizado
Si está buscando contenido actual, es posible que no esté satisfecho con el resultado. Aunque el LLM incluye libros, artículos, revistas científicas y Wikipedia, este tesoro solo llega hasta septiembre de 2021.
Esto se debe a que ChatGPT es una herramienta de procesamiento del lenguaje y no un motor de búsqueda, y no tiene acceso directo a Internet. En este sentido, Bard de Google tiene la ventaja. Sin embargo, los usuarios de ChatGPT Plus recientemente obtuvieron acceso a un sistema beta que tiene capacidades de navegación, pero no siempre puede extraer texto de los sitios web que visitan.
El sistema tiene sesgos inherentes.
Las herramientas de inteligencia artificial lo han demostrado y el sesgo tiene varias causas.
El sesgo de muestra es un problema. Debido a que existen límites en la cantidad de datos utilizados para entrenar los modelos (y muchos de ellos están en inglés), los datos no son representativos de la sociedad en su conjunto.
Los modelos de lenguaje, que no tienen la misma ética y razonamiento que los humanos, pueden responder con contenido sexista, racista u homofóbico sin comprender los problemas inherentes a esas respuestas.
Cuando se trata de fuentes de información contradictorias, los chatbots no saben cómo emitir un juicio o determinar qué fuentes son más precisas. Al realizar evaluaciones sobre solicitudes u otros aportes, los modelos tampoco pueden decidir qué es justo, apropiado o veraz.
Si bien estos problemas son bien conocidos, los humanos que usan chatbots no siempre revisan los resultados y revisan o rechazan las respuestas sesgadas. La gente también tiende a creer implícitamente en la tecnología y a verla como una fuente confiable. Como hemos demostrado, debido a los problemas de sesgo de las empresas que utilizan IA generativa.
La precisión no está garantizada
Se podría pensar que un robot sería bueno para aclarar los hechos, pero desafortunadamente, no siempre es así. También le cuesta tomar decisiones sobre qué creer y comprender cómo se utiliza el humor o el sarcasmo, lo que afecta la precisión.
Además de los errores fácticos que se encuentran comúnmente en la salida de ChatGPT, también hay errores de ortografía, puntuación ortográfica y gramaticales. Los modelos de lenguaje también son notoriamente pobres en respuestas matemáticas.
Cómo lidiar con las limitaciones
Todo esto puede pintar un panorama sombrío para el chatbot líder de este año, pero no es necesario que canceles tu suscripción todavía. ChatGPT sigue siendo una herramienta poderosa y un escritor extremadamente capaz; solo debemos ser conscientes de sus deficiencias.
Esto significa que el contenido siempre debe revisarse rigurosamente para detectar imprecisiones, errores y lugares donde no esté actualizado. Esto requiere mucha edición adicional para mejorar el tono y el sesgo, y tal vez fortalecer el contenido con sus propias fuentes más recientes.
Pero aún es temprano para la IA generativa, y es un buen plan familiarizarse más con las herramientas que probablemente usaremos mucho más en el futuro. Piense en ChatGPT como su amigo; pero no olvide que, aunque es un modelo de computadora, no es perfecto.
Facebook Comments
Disqus