La organización de investigación respaldada por multimillonarios jugó un papel clave en la orden de Biden sobre inteligencia artificial

Personas influyentes eficaces ahora centran gran parte de su atención en la IA y presionan cada vez más a Washington para que aborde el potencial apocalíptico de la tecnología, incluido el riesgo de que la IA avanzada algún día se utilice para desarrollar armas biológicas. Los críticos afirman que el enfoque del movimiento en riesgos futuros especulativos sirve a los intereses de las grandes empresas tecnológicas al distraer a los formuladores de políticas de los daños actuales de la IA, incluida su tendencia a fomentar prejuicios raciales o socavar las protecciones de derechos de autor.

La conexión entre las ideas altruistas efectivas y la industria de la IA ya es estrecha: muchos empleados clave de las principales empresas de IA son defensores del altruismo efectivo. Ahora la RAND Corporation, un influyente grupo de expertos con décadas de antigüedad, sirve como un poderoso vehículo a través del cual estas ideas ingresan a la política estadounidense.

En RAND, tanto el director ejecutivo Jason Matheny como el científico jefe de información Jeff Alstott son conocidos defensores activos, y ambos tienen vínculos con la administración Biden: trabajaron juntos tanto en la Oficina de Política Científica y Tecnológica de la Casa Blanca como en el Consejo de Seguridad Nacional antes de unirse a RAND. . el año pasado.

Jeffrey Headey, portavoz de RAND, confirmó que los empleados de RAND, incluido Alstott, participaron en la redacción de los requisitos de presentación de informes y otras partes de la Orden Ejecutiva de AI. RAND existe para “[conduct] Investigación y análisis sobre los temas críticos de hoy. [and] entonces [share] Esa investigación, análisis y experiencia con los responsables políticos.

La Corporación RAND ha recibido más de 15 millones de dólares en subvenciones discrecionales Sobre la inteligencia artificial Y Bioseguridad De Open Philanthropy a principios de este año. El Grupo Altruismo Efectivo tiene relaciones personales y financieras con las empresas de inteligencia artificial Anthropic y OpenAI, y los empleados senior de RAND han estado estrechamente asociados con estructuras corporativas clave en esas empresas.

Matheny Es uno de los cinco miembros. Sobre el «Fondo de beneficios a largo plazo» de Anthropic. y Tasha McCauley, científica asociada de alta gestión de RAND Corporation Con un supuesto miedo muy arraigado AI Apocalypse: la junta directiva de OpenAI se fue el mes pasado después de eso Intento de destituir al director ejecutivo de OpenAI, Sam Altman Desde su posición.

Dos colegas de IA Financiado por el Instituto de Servicio Público Horizon (una organización financiada por Open Philanthropy que coloca personal en todo Washington para trabajar en riesgos existenciales y otras cuestiones políticas relacionadas con la inteligencia artificial y las biotecnologías) trabaja en RAND Corporation. Estos becarios son parte de una red más amplia, financiada por Open Philanthropy y otros grupos relacionados con la tecnología, que financia al personal de IA en el Congreso, en las agencias federales y en los principales centros de investigación de Washington.

La creciente influencia de RAND sobre la política de IA en la Casa Blanca se produce cuando su personal ha comenzado a expresar preocupaciones sobre la nueva asociación del grupo de expertos con el altruismo efectivo.

En una reunión de todo el personal de RAND el 25 de octubre, de la cual obtuvo POLITICO una grabación de audio, un miembro del personal expresó su preocupación de que la relación de RAND con Open Philanthropy pudiera socavar su reputación «rigurosa y objetiva» a favor de promover una «agenda altruista efectiva». «.

En la misma grabación, Matheny dijo que RAND ayudó a la Casa Blanca a redactar la orden ejecutiva de AI. Se firmó el 30 de octubre., la orden impone nuevos y amplios requisitos de presentación de informes a las empresas a la vanguardia de la inteligencia artificial y la biotecnología. Estos requisitos fortalecen el enfoque de la administración Biden hacia la IA y han sido fuertemente influenciados por Alstott y otro personal de RAND.

Un investigador de inteligencia artificial familiarizado con la redacción de la orden ejecutiva, que solicitó el anonimato debido a lo delicado del tema, dijo a Politico que Alstott y otros empleados de RAND brindaron una asistencia significativa a la Casa Blanca mientras redactaba la orden. Alstott y otros en RAND estuvieron particularmente involucrados en la redacción de los requisitos de presentación de informes en la Sección 4, dijo el investigador.

Entre otras cosas, la Sección 4 de la orden exige que las empresas proporcionen información detallada sobre el desarrollo de modelos avanzados de IA y los grandes conjuntos de microchips utilizados para entrenarlos. También impone requisitos de seguridad más estrictos para los modelos de IA, implementa nuevos mecanismos de detección para las empresas de biotecnología involucradas en la síntesis de genes y fortalece las reglas de «conozca a su cliente» para las empresas de IA y biotecnología.

Muchos de los aspectos más específicos de la Orden Ejecutiva fueron ideas previamente promovidas por Alstott. Las seis recomendaciones de políticas integrales Alstott hizo la declaración durante una audiencia en el Senado en septiembre. Las amenazas habilitadas por la IA de alguna manera han llegado a la Sección 4. Esto incluye el umbral exacto en el que las empresas deben reportar información sobre modelos avanzados de IA, y tanto Alstott como la Casa Blanca establecieron ese umbral en no más de 10^26.

En una reunión integral del personal de RAND el 25 de octubre, cinco días antes de que Biden firmara la orden, Matheny aludió a la influencia de RAND y dijo que “el Consejo de Seguridad Nacional, [the Department of Defense] Y [the Department of Homeland Security] Estaban muy preocupados por los riesgos catastróficos que podrían plantear los futuros sistemas de IA y pidieron a RAND que realizara varios análisis. El director ejecutivo de RAND Corporation dijo que estos análisis «destacan los nuevos controles de exportación y las acciones ejecutivas clave que se esperan de la Casa Blanca la próxima semana».

Un correo electrónico del 30 de octubre que Alstott envió a varias cuentas de RAND Corporation varias horas antes de que la Casa Blanca emitiera la orden ejecutiva (cuya copia obtuvo Politico) incluía un archivo adjunto que Alstott describió como “una copia [of the order] Hace una semana.» La posesión por parte de Alstott de una copia actualizada de la orden una semana antes de firmarla indica su estrecha participación en su desarrollo.

Headey confirmó la exactitud de la grabación de audio de la reunión general del 25 de octubre, así como del correo electrónico enviado por Alstott.

Headey dijo que RAND hizo recomendaciones iniciales para al menos algunas de las disposiciones que terminaron en la Sección 4. El investigador de inteligencia artificial familiarizado con la redacción de la orden dijo que la orden de operaciones sugiere que el grupo de expertos ejerció un nivel inapropiado de influencia en la Casa Blanca. . . Al actuar como principal recomendador de disposiciones clave de la Orden Ejecutiva de AI, en lugar de simplemente ayudar a la administración Biden a formular e implementar sus propias prioridades, el investigador expresó su preocupación de que RAND hubiera ido más allá de un «proceso de asistencia técnica» para convertirse en un «proceso de impacto». proceso.» . «.

Headay rechazó la idea de que RAND hubiera incluido incorrectamente las prioridades de IA y bioseguridad de Open Philanthropy en la orden ejecutiva después de recibir más de 15 millones de dólares en subvenciones discrecionales para IA y bioseguridad de un financiador influyente a principios de este año.

«Las personas y organizaciones que financian la investigación de RAND no tienen influencia en los resultados de nuestro trabajo, incluidas nuestras recomendaciones políticas», dijo Headey. El portavoz de RAND añadió que se han implementado políticas estrictas para garantizar la objetividad.

Cuando se les preguntó si Matheny o Alstott, ambos empleados recientes de la Casa Blanca, habían aprovechado sus relaciones anteriores dentro de la administración para influir en la política de IA, Hayday dijo que «todos los que se unen a RAND, incluido… [Matheny] Y [Alstott]llega con una amplia red de relaciones profesionales que se utilizan en toda nuestra organización para garantizar el más amplio alcance e impacto de nuestra investigación para el bien público.

El portavoz de la Casa Blanca, Robin Patterson, no confirmó ni negó la participación de RAND en la redacción de la orden ejecutiva de AI, ni respondió a preguntas sobre la relación de RAND con Open Philanthropy.

Patterson dijo que las acciones de Biden sobre la IA «abordan una amplia gama de riesgos, incluidos los riesgos para los derechos civiles, la privacidad, los consumidores, los trabajadores, las fallas del mercado y la seguridad nacional, y también garantizan que aprovechemos adecuadamente la IA para abordar algunos de los problemas más urgentes. » Peligro». Los grandes desafíos de nuestro tiempo, como tratar las enfermedades y afrontar el cambio climático.

El portavoz de Open Philanthropy, Mike Levin, dijo que su organización «está orgullosa de apoyar a expertos independientes a quienes se les ha pedido que contribuyan a los esfuerzos del presidente Biden para aprovechar el impulso de la campaña». Compromisos voluntarios de la Casa Blanca [on AI safety]Levin señaló que algunos investigadores que han criticado el impacto del altruismo efectivo en la política de IA han elogiado aspectos de la orden ejecutiva de Biden. Además de los nuevos requisitos de presentación de informes, la orden incluía varias secciones destinadas a abordar los daños existentes de la IA.

Algunos empleados de RAND están planteando preocupaciones internas sobre cómo los vínculos de la organización con la filantropía abierta y el altruismo efectivo podrían afectar la objetividad del grupo de expertos de 75 años.

En la misma reunión general el 25 de octubre, un interrogador anónimo dijo que los vínculos entre RAND y Open Philanthropy destacados en un artículo anterior de POLITICO «parecen ser inconsistentes» con la «reputación de análisis preciso y objetivo» de la venerable institución de investigación. El interrogador le preguntó a Matheny si pensaba que “impulsar una agenda altruista eficaz, a través de testimonios y memorandos políticos bajo la marca RAND, es apropiado”.

Matheny respondió en parte que sería “irresponsable”. [RAND] “No abordar” los riesgos potencialmente catastróficos que plantea la IA, “especialmente cuando los responsables políticos nos piden que los proporcionemos”.

También afirmó que Politico «tergiversó las preocupaciones sobre la seguridad de la IA como una cuestión marginal cuando en realidad es la cuestión dominante entre la mayoría de los principales investigadores de IA de la actualidad».

En la misma reunión, otro interlocutor anónimo le pidió a Matheny que comentara sobre “la presión para contratar [effective altruist] personas dentro de RAND y creando un grupo unificado de colegas fuera del ecosistema normal de RAND. La relación entre RAND y Open Philanthropy destacada en el artículo de POLITICO “amenaza la confianza en nuestra organización”, dijo el interrogador.

Matheny respondió en parte que RAND «ejerció la misma diligencia debida en nuestra contratación que en nuestras publicaciones». El director ejecutivo de RAND Corporation añadió que «en todo caso, [he’s] Vimos que Open Philanthropy se volvió más laissez-faire en la forma en que trabajamos.

Headey le dijo a Politico que «no hay presión para contratar». [effective altruist] Personas dentro de RAND”, pero señaló que el centro de investigación “alberga varios tipos diferentes de programas de becas”.