Hola Jorge.
No tiene moral, son algoritmos. Se acercan a la forma de hablar y contestar que tenemos los humanos, porque fué programada para responder de esa manera y está en continuo entrenamiento; cada vez que una persona interactúa con los algoritmos, chatGPT, deepseek o el que sea, estos "aprenden" (guardan en sus bases de datos) las interacciones y luego saca promedios de cuales fueron las interacciones mas usadas como para elegir qué contestarte cuando le preguntás algo.
A grandes rasgos, funciona así: los creadores del algoritmo (pongamos por ejemplo ChatGPT) entrenan el modelo (así le llaman al algoritmo) usando bases de datos enormes sacadas de toda la internet y los datos extraídos de todos los dispositivos y apps de la gente (si, esos avisos de privacidad que nunca leés en las apps) y con eso arman la base de conocimiento. Es importante decir que esta base no se actualiza sola, es decir que un modelo va a seguir usando como base la que le hayan dado en su momento y no puede saber cosas que pasaron después en el tiempo. Después lo que sí se sigue actualizando son las interacciones con la gente (lo que te conté mas arriba). Es decir que un modelo (algoritmo) va a actualizar la forma en la que interactúa con la gente pero no va a aprender nada nuevo si no lo entrenan.
Como verás parece magia, pero en el fondo ese chatbot que te responde como si fuese un humano (y siempre, siempre, te da la razón) no puede ni pensar ni sentir, esas cosas las percibís vos del otro lado porque sos humano. El chatbot elige de una base de datos y probabilidades, como interactuar con vos en base a lo que le pedís. No piensa ni razona por más que las apps tengan botones para hacerlos "razonar"; lo que hacen esos botones es decirle "buscá por más tiempo en tu base de datos antes de responderme".
Con respecto a la moral, hoy no existe pero quien sabe en un futuro. No hablo de una moral real, sino una programada... he aquí un gran problema: ¿quién decide que es moralmente bueno, o malo? respuesta: los humanos... ¿y qué intereses tiene ESOS humanos?... ahí te quiero ver.
Yo no soy un ludita (como dijo también Krank antes que yo) pero creo que en algún punto van a tener que aclararle las cosas a la gente común para que sean ellos los que comprendan que la IA es siempre en todos los casos una máquina.
Si me preguntás que pienso del futuro con IA, te respondo que la cosa viene negra. Como dije, son algoritmos, son creados y manejados por humanos y estos tienen intereses. Los americanos son imperialistas, no hace mucha falta que diga nada más al respecto.
Como yapa te digo que la IA ya se está usando para la guerra. Israel se alió con Microsoft y Google, y está usando IA para atacar a otras naciones. Obviamente EEUU también.
