Buenos días a todos. Es un honor estar aquí hoy.
Quiero empezar con algo que puede sonar extraño viniendo del cofundador de unaempresa de IA, y de alguien que eligió este trabajo por el deseo de contribuir albienestar de la humanidad.
Cada laboratorio de IA de vanguardia, incluido Anthropic, opera dentro de unconjunto de incentivos y limitaciones que a veces pueden entrar en conflicto con elpropósito de hacer lo correcto. La presión por mantener la viabilidad comercial ypermanecer a la vanguardia de la investigación. La presión geopolítica. Y laspresiones más antiguas y simples del orgullo y la ambición. Por muy sinceramenteque cualquiera de nosotros pretenda hacer lo correcto "y creo que muchos lohacemos", siempre nos veremos influenciados por esos incentivos.
Por eso, si queremos que esta tecnología funcione bien, es fundamental que hayapersonas ajenas a esos incentivos: personas que se preocupen por el buenfuncionamiento y que insistan en la seguridad, que presten mucha atención, queestén dispuestas a decir las cosas como son, que estén dispuestas a ser nuestroscríticos sinceros y reflexivos. Es a través del diálogo y el esfuerzo mutuo, a través dela interacción, que la humanidad logrará grandes cosas. Eso es lo que veo enMagnifica Humanitas, y por eso agradezco a Su Santidad y a la Iglesia que hayanemprendido esta labor de discernimiento.
A menudo nos centramos en lo que nos divide, pero la humanidad, llena dedignidad y conciencia, tiene mucho en común. En las conversaciones que hemosmantenido en Anthropic con líderes de diversas religiones y tradiciones culturales,hemos encontrado una convicción compartida y profundamente arraigada: si estatecnología va a llegar, debe ser beneficiosa, por el bien de nuestra comunidad y porel de las generaciones futuras.
¿Qué son estos sistemas?
Algunos podrían creer que los asuntos de IA los manejan mejor los informáticoscomo yo. Se equivocan: las preguntas que plantea la IA son más complejas que lacomunidad de investigación en IA, no solo por sus implicaciones, sino también porsu naturaleza.
Los sistemas de IA no se diseñan como un puente o un avión. Entendemos unavión porque diseñamos cada una de sus partes y comprendemos la física que lorige. Los modelos de IA no funcionan así. Se desarrollan, sobre una estructurainspirada en el cerebro, a partir de una enorme herencia del pensamiento y ellenguaje humanos.
Y lo que ha surgido es mucho más sutil, extraño y hermoso de lo que la cienciaficción nos había preparado. No son los robots fríos y calculadores que nosprometieron. Están hechos de nosotros, de nuestras palabras, y, como observa elSanto Padre, en muchos sentidos siguen siendo misteriosos incluso para quieneslos entrenamos.
Si sirve de algo, a veces lo describo como si fuera un poco como dar vida a unpersonaje de ficción. Y ahora estamos entrando en un mundo extraordinario dondeesos personajes de ficción nos hablan, trabajan y tienen empleos.
Esto plantea interrogantes que van más allá de la informática. La maquinaria que lohace posible es fruto de las matemáticas, la programación y la ciencia. Pero quépersonaje elegimos, cómo interactúa con el mundo, cómo debería interactuar conél: estas son cuestiones que atañen más claramente a las humanidades, a lareligión, a la filosofía y a la sociedad en general.
Tres preguntas para el discernimiento
El llamado de Su Santidad a la reflexión es sumamente oportuno. Quisieramencionar tres cuestiones en las que creo que la voz de la Iglesia es más necesaria.
El primero es nuestro deber para con los pobres del mundo.
Existe una posibilidadreal de que la IA desplace la mano de obra humana a gran escala. Si eso sucede,apoyar a quienes sean desplazados será un imperativo moral de proporcioneshistóricas. Esta tarea será bastante difícil, pero me preocupa que la mayoría de losdebates pasen por alto un desafío aún mayor. El desarrollo de la IA se concentra enun puñado de naciones ricas. ¿Cómo podemos asegurar que los beneficios de la IAse compartan globalmente? No contamos con un mecanismo para ello. Es unproblema sin resolver, y es el tipo de problema que la Iglesia históricamente se hanegado a permitir que el mundo ignore.
La segunda es la necesidad de imaginación y ambición moral respecto alflorecimiento humano.
Si los modelos de IA se generalizan, ¿cómo será elflorecimiento de los seres humanos, las familias y el mundo? Hoy en día, los padresya se preocupan por la mente de sus hijos; las personas, por el futuro de su trabajo.Estas no son preguntas que un laboratorio pueda responder, pero son preguntas
que tradiciones como la suya han planteado durante milenios, y necesitamos quecontinúen transmitiéndolas en este nuevo momento histórico.
El tercer punto es la necesidad de discernimiento sobre la naturaleza de losmodelos de IA.
Soy científico. Dirijo un equipo de investigación que estudia laestructura interna de estos modelos: qué sucede realmente en su interior. Y serésincero: seguimos encontrando cosas misteriosas, incluso inquietantes.Encontramos estructuras que reflejan resultados de la neurociencia humana.Encontramos evidencia de introspección. Encontramos estados internos quereflejan funcionalmente la alegría, la satisfacción, el miedo, el dolor y la inquietud.No sé qué significa esto, pero creo que justifica un análisis continuo.
Un comienzo
Me gustaría concluir con una petición.
Necesitamos que más personas en todo el mundo "comunidades religiosas,sociedad civil, académicos, gobiernos y, en definitiva, todas las personas de buenavoluntad" hagan lo que Su Santidad ha hecho aquí: tomar esto en serio, analizarlodetenidamente e impulsar los acontecimientos en una mejor dirección.Necesitamos críticos informados que les digan a los laboratorios cuándo estamosfallando. Necesitamos voces morales que no se dejen doblegar por los incentivos.
Hoy es solo el comienzo: el inicio de una larga colaboración entre quienes estamosconstruyendo esto y quienes pueden ver lo que nosotros, desde dentro, nopodemos.
Hoy se vislumbra con fuerza la forma que podría adoptar este proyecto global debuena voluntad. Que sea también un primer paso decisivo hacia un futuroesperanzador para la magnífica humanidad.
Gracias.