| IA y las generaciones | |
|---|---|
| Cayandor 23-06-2024 12:55 |
Con esto de la inteligencia artificial he visto que la gente está muy conectada al ChatGPT y lo utiliza para todo. Sobre todo las generaciones más jóvenes, que utilizan desde para enviar correos o para estudiar y consultas sobre lo que hacen. El problema es que la IA alucina, y bastante. Inventa datos sobre las cosas y no da una información certera, aunque lo parezca a simple vista. Como experto en un tema, a veces le pregunto cosas y parecen reales, pero no lo son. Tiene severos problemas en confundir conceptos que al ojo no entrenado pueden parecer reales. Mi pregunta es para ustedes, ¿que tan confiable es esta tecnología? Al ser algo tan rupturiste, uno desconfía pero las nuevas generaciones no. ¿será algo que preocuparse en el futuro? |
| Ventus 24-07-2024 09:25 |
¡Hola Cayandor! El error más común de una inteligencia artificial generativa corresponde a las "alucinaciones" que es el costo que se debe pagar para que una IA se atreva a dar una respuesta, dado que la IA reduce todo el lenguaje a matemáticas (y muchas veces se tiene más de una solución válida). El tema es fascinante, en especial si se considera que un diálogo completo se puede ajustar con una función matemática y que muchas rondas de preguntas y respuestas se pueden reducir a proporciones (A es a B como C es a D). Pero, así como los humanos se equivocan, así también se equivocan las IAs. Si uno le preguntara X cosa a una IA, agregando "Sólo responde si estás totalmente seguro", ésto la bloquearía porque estar 100% seguro es prácticamente imposible. En estricto rigor el error no es de la IA (las aluciones DEBEN existir para poder tener IA generativa), sino del usuario que la maneja en forma descuidada. Lo mejor es usar la respuesta de la IA como una sugerencia y no como una verdad absoluta, algo así como "Resolución de problemas ASISTIDO por una IA" (porque el procedimiento correcto es que el ser humano filtre y evalúe la respuesta de la IA antes de creerle ciegamente). |
| Tú debes haber hecho login para responder. Y para éso, primero debes tener una cuenta. | |