La startup Anthropic, fundada por ex empleados de OpenAI, ha creado un sistema de “IA constitucional” para entrenar a sus chatbots con valores morales y asegurar su uso seguro.
La idea es que, al enseñarle a la IA una serie de valores éticos, se pueda garantizar que el sistema tome decisiones que estén en línea con estos valores.
En su constitución, Anthropic incluye valores como el respeto a la privacidad, la no discriminación y la consideración de perspectivas culturales distintas a las occidentales, ricas o industrializadas. Los desarrolladores de Anthropic explican que no se trata de un enfoque perfecto, pero que hace que los valores del sistema de IA sean más fáciles de entender y ajustar según sea necesario.
Anthropic realizó varias pruebas y encontró que funcionaban mejor las consideraciones más amplias que capturaban muchos aspectos, que definiciones muy específicas. Claude, el chatbot de Anthropic, no mira cada principio cada vez que da una respuesta, pero sí consideró cada principio muchas veces durante su entrenamiento y, en teoría, aprendió cuál es el resultado más adecuado para ofrecer.
Este enfoque de enseñar valores morales a las IA ha sido propuesto por varios expertos en el campo. Por ejemplo, el filósofo Nick Bostrom ha argumentado que las IA deberían ser programadas con valores morales para garantizar su seguridad y evitar que tomen decisiones que sean perjudiciales para la humanidad. Otros expertos, sin embargo, han señalado que enseñar valores morales a las IA puede ser difícil, ya que estos valores pueden ser culturalmente específicos y pueden cambiar con el tiempo.
Otra forma de garantizar que las IA tomen decisiones éticas es a través de la ética computacional, un campo de investigación que busca desarrollar algoritmos y sistemas de IA que sean éticos. Estos sistemas éticos se basan en principios como la transparencia, la responsabilidad y la privacidad.
En términos más generales, existe una preocupación creciente sobre el impacto que la IA puede tener en la sociedad y la necesidad de garantizar que su uso sea seguro y ético. OpenAI, la empresa creadora de ChatGPT, nació como un laboratorio pequeño sin fines de lucro, con la promesa de crear IA segura para la humanidad con espíritu de transparencia, pero hoy en día la presión por financiación le hace tomar decisiones que le alejan de sus intenciones originales.
Comentarios