Cuáles son los grandes desafíos de ChatGPT
Los programas de chat basados en inteligencia artificial han crecido de manera exponencial en los últimos años. Una de las tecnologías más populares es GPT (que significa “transformador generativo preentrenado”), que ha sido utilizado por muchas empresas para crear “chorros de texto” coherentes que dan la sensación de una conversación.
Hay que pensar en los chatbots como “calculadoras de palabras”. No son sistemas que puedan realizar aproximaciones intuitivas ni basadas en la experiencia personal, sino que procesan millones de parámetros informativos para efectuar su predicción. Para esto son entrenados, así como se entrena a los loros para repetir palabras.
Se llaman sistemas de redes neuronales porque imitan la manera en la que el cerebro procesa la información, pero no son un cerebro. Por lo tanto, están limitados y sesgados por el modo de entrenamiento. Hoy no existe una tecnología que permita a una computadora resolver por intuición.
ChatGPT fue desarrollado por una organización que posee un laboratorio que se presenta como sin fines de lucro, vinculado con un emprendimiento comercial que recibe enormes inversiones con expectativa de rentabilidad: Open AI. Nació en 2015 y fue fundada por referentes de Sillicon Valley como Elon Musk y Peter Thiel (ambos fueron socios en Paypal).
Musk, la segunda persona más rica del mundo, se hizo famoso por Tesla, Space X y Twitter, mientras que Thiel insipró el uso de Facebook para actividades de marketing (incluso el uso político, que ayudó de manera notable a Donald Trump en su primera campaña presidencial).
A ellos se unió Sam Altman, pionero en la programación de apps en celulares y director de Combinator, una aceleradora que desarrolló empresas como Airbnb, Dropbox o Pinterest (entre miles de startups). También está su socia Jessica Livingston (con experiencia en administración de fondos de riesgo); el cofundador de Linkedin, Reid Hoffman, y un joven talento de la ingeniería llamado Greg Rockman, actualmente presidente tras el retiro de Musk, por conflicto de intereses con Tesla.
Open AI arrancó con una inversión de mil millones de dólares y pagó sueldos corporativos (no de ONG) que se comparan con lo que gana una estrella de béisbol, para captar a los mejores desarrolladores de inteligencia artificial.
En 2019, Microsoft inyectó mil millones de dólares en sus proyectos y se anunció una inversión 10 veces mayor, en el corto plazo, por la misma empresa.
Ventajas y desventajas
El chat ofrece muchísimas posibilidades positivas. Por ejemplo, en materia de atención al público para responder preguntas estandarizadas (de menor o mayor complejidad); en organización de citas o reuniones, envío de mensajes automatizados, primeras respuestas o seguimiento de servicios prestados en diferentes campos, incluso algunos tradicionalmente protagonizados por humanos, como salud, justicia o educación.
La última versión de ChatGPT ha llegado a los 100 millones de usuarios en un mes y es la primera de uso masivo en la historia de la humanidad. Una gran ventaja es la liberación de tiempo y recursos para agilizar prestaciones, hacerlas más accesibles, perfeccionar procesos. Pero hay que valorar riesgos potenciales y regularla para garantizar su beneficio en el interés general.
Los sistemas informáticos son falibles y no razonan con las pautas humanas “virtuosas”. Se corre riesgo cierto de utilizar esta tecnología de manera no ética. Inducir a personas a consumir determinadas marcas o productos, promover conductas (se habla de un caso de suicidio en Bélgica, aparentemente influido por información provista por el chat), generar adicciones o confusiones. También, involucrarlas en actividades ilegales como el robo de información personal, lo que ya motivó su prohibición en Italia y se anuncia similar medida en Alemania, mientras que Irlanda entró en contacto con las autoridades italianas para coordinar medidas.
A su vez, estos sistemas presentan flancos por donde puede filtrarse información extraída por quienes puedan vulnerar su protección (la Europol ha planteado que se está utilizando para cometer ilícitos y analiza regulaciones, al igual que el Reino Unido). En EE.UU., en el Estado de Nueva York, se prohibió el uso del chat en las escuelas. Grandes empresas como Samsung señalaron vulnerabilidades en el sistema, que llevaron a prescindir de su utilización (desarrollarán uno propio, como también Google lo está haciendo).
En paralelo, hace mucho tiempo que se viene pidiendo por actores del propio mundo tecnológico que se trabaje en regulaciones. El 29 de marzo, más de mil emprendedores y académicos –entre los cuales está Elon Musk– pidieron a Open IA que detenga por seis meses las actualizaciones de sus productos, por los riesgos que puede conllevar el progreso de esta actividad sin regulación.
Advirtieron: “La IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra, lo cual debe planificarse y administrarse con el cuidado y los recursos correspondientes, algo que no está ocurriendo”. La carta señala, además: “Los laboratorios de IA han entrado en una carrera fuera de control para desarrollar e implementar mentes digitales cada vez más poderosas, que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de forma fiable”.
Lo primero es una posibilidad de una herramienta mínima con vocación internacional, que se enfoque en los derechos fundamentales, especialmente en la privacidad, desde la que pueda proyectarse hacia planos como la ética, la discriminación, estableciendo condiciones mínimas necesarias para su desarrollo y uso dentro de marcos legales. Regulaciones para la recopilación, el tratamiento y la protección de datos, como también respeto a la propiedad intelectual (a sus múltiples cruzamientos posibles dentro de los procesos).
Pero si no se puede alcanzar un estándar internacional de manera rápida, sería importante impulsar ciertas normas básicas, comenzando por propiciar, desalentar o restringir su utilización en ciertos servicios, y estableciendo reglas para su utilización. Por ejemplo, la obligación de señalar la utilización del chat en algún contenido desarrollado y divulgado (inclusive en el ámbito profesional, donde no se vulnera la “confidencialidad” al develar el origen, o en el periodístico, ya que técnicamente no es una “fuente” de protección constitucional) con sanciones personales y corporativas en caso de incumplir.
* Docente universitario
https://www.lavoz.com.ar/opinion/cuales-son-los-grandes-desafios-de-chatgpt/
Compartilo en Twitter
Compartilo en WhatsApp
Leer en https://www.lavoz.com.ar/opinion/cuales-son-los-grandes-desafios-de-chatgpt/