Perspectiva: la carrera por los agentes de IA «autónomos» se está apoderando de Silicon Valley

17 de julio: aproximadamente una década después de que los asistentes virtuales como Siri y Alexa entraran en escena, una nueva ola de asistentes de IA más autónomos está aumentando las apuestas, impulsada por la última iteración de la tecnología detrás de ChatGPT y sus competidores.

Los sistemas experimentales que funcionan con GPT-4 o modelos similares están atrayendo miles de millones de dólares en inversiones a medida que Silicon Valley compite para beneficiarse de los avances en inteligencia artificial. Los nuevos asistentes, a menudo llamados «agentes» o «copilotos», prometen realizar tareas personales y trabajos más complejos cuando un humano se lo indique, sin necesidad de una estrecha supervisión.

«En un nivel alto, queremos que esto se convierta en algo así como su amigo personal de IA», dijo el desarrollador Div Garg, cuya compañía MultiOn está probando la versión beta del agente de IA.

“Podría convertirse en Jarvis, ya que queremos conectarlo a muchos de sus servicios”, agregó, refiriéndose a la IA indispensable de Tony Stark en las películas de Iron Man. «Si quieres hacer algo, habla con tu IA y hará tus cosas».

La industria aún está lejos de emular a los deslumbrantes asistentes digitales de la ciencia ficción. Un agente de Garg navega por la web para pedir una hamburguesa en DoorDash, por ejemplo, mientras que otros pueden crear estrategias de inversión, enviar correos electrónicos a personas que venden refrigeradores en Craigslist o resumir reuniones de negocios para aquellos que se unen tarde.

“Mucho de lo que es fácil para las personas sigue siendo muy difícil para las computadoras”, dijo Kanjun Qiu, director ejecutivo de Generalmente Inteligente, un competidor de OpenAI que fabrica inteligencia artificial para agentes.

«Digamos que su jefe necesita programar una reunión con un grupo de clientes importantes. Esto involucra las complejas habilidades de razonamiento lógico de la IA: necesita obtener las preferencias de todos, resolver conflictos, todo mientras mantiene el toque sutil necesario cuando se trabaja con clientes».

Los primeros esfuerzos son solo una muestra del desarrollo que podría surgir en los próximos años de agentes cada vez más avanzados y autónomos a medida que la industria avanza hacia la inteligencia artificial general (AGI) que podría igualar o superar a los humanos en una miríada de tareas cognitivas, según entrevistas de Reuters con Aproximadamente veinte empresarios, inversores y expertos en IA.

La nueva tecnología ha provocado una avalancha de asistentes impulsados ​​por los llamados modelos básicos, incluido GPT-4, barriendo a desarrolladores individuales y grandes bateadores como Microsoft (MSFT.O) y Google’s Alphabet (GOOGL.O), así como a una gran cantidad de nuevas empresas. .

Inflection AI, por nombrar algunos, recaudó $ 1.3 mil millones a fines de junio. La compañía está desarrollando un asistente personal que, según dice, podría actuar como mentor o manejar tareas como asegurar el crédito de la aerolínea y el hotel después de retrasos en los viajes, según un podcast de los fundadores de la compañía. Reid Hoffman y Mustafa Suleiman.

Adept, una startup de inteligencia artificial que ha recaudado $415 millones, promocionando sus beneficios comerciales; En una demostración publicada en línea, muestra cómo puede impulsar su tecnología a granel, luego ver cómo navega por la base de datos de relaciones con el cliente de Salesforce por sí solo, completando una tarea que, según dice, requerirá 10 o más clics humanos.

Alphabet se negó a comentar sobre el trabajo relacionado con los agentes, mientras que Microsoft dijo que su visión es mantener a los humanos en control de los asistentes de IA, en lugar de los pilotos automáticos.

Paso 1: Destruir a la humanidad

Qiu y otros cuatro desarrolladores de agentes dijeron que esperan que los primeros sistemas que puedan realizar tareas de varios pasos de manera confiable con cierta autonomía lleguen al mercado dentro de un año, centrándose en áreas limitadas como tareas de codificación y marketing.

“El verdadero desafío es construir sistemas con una lógica fuerte”, dijo Chiu.

La carrera por agentes de IA cada vez más independientes se vio reforzada por el lanzamiento en marzo de GPT-4 por parte del desarrollador OpenAI, una poderosa actualización del modelo detrás de ChatGPT, el chatbot que se convirtió en una sensación cuando se lanzó en noviembre pasado.

GPT-4 facilita el tipo de pensamiento estratégico y adaptativo necesario para navegar en el mundo real impredecible, dijo Vivian Cheng, inversionista en la firma de capital de riesgo CRV que se enfoca en agentes de IA.

Las primeras demostraciones de agentes capaces de un razonamiento lógico relativamente complejo provinieron de desarrolladores individuales que crearon los proyectos de código abierto BabyAGI y AutoGPT en marzo, que pueden priorizar y realizar tareas como encontrar ventas y pedir pizza en función de un objetivo predeterminado y los resultados de anteriores. comportamiento.

La primera generación de proxies de hoy en día son solo pruebas de conceptos, según ocho desarrolladores entrevistados, y a menudo se congelan o sugieren algo que no tiene sentido. Si se le da acceso completo a una computadora o información de pago, el agente puede borrar accidentalmente el disco de la computadora o comprar algo incorrecto, dicen.

«Hay muchas formas en que las cosas pueden salir mal», dijo Aravind Srinivas, CEO de Perplexity AI, el competidor de ChatGPT, que optó por ofrecer un producto de copiloto supervisado por humanos. «Hay que tratar a AI como a un niño y supervisarlo constantemente como a una madre».

Muchos científicos informáticos que se han centrado en la ética de la inteligencia artificial han señalado el daño a corto plazo que puede causar la persistencia de los sesgos humanos y el potencial de desinformación. Y mientras algunos ven el futuro de Jarvis, otros temen al asesino HAL 9000 de «2001: Una odisea del espacio».

El científico informático Yoshua Bengio, conocido como el «padre de la inteligencia artificial» por su trabajo sobre redes neuronales y aprendizaje profundo, insta a la cautela. Él teme que las iteraciones avanzadas de tecnología en el futuro puedan crear y actuar sobre sus propios objetivos inesperados.

Al pedir más regulación, Bengio dijo: «Sin un ser humano en el circuito verificando cada acción para ver si no es peligrosa, podríamos terminar con acciones que son criminales o que podrían dañar a las personas». “Dentro de unos años, estos regímenes podrían ser más inteligentes que nosotros, pero eso no significa que tengan la misma brújula moral”.

En un experimento publicado en línea, un creador anónimo ordenó a un agente llamado ChaosGPT que fuera una «IA destructiva, hambrienta de poder y manipuladora». El agente ha desarrollado un plan de 5 pasos, con el Paso 1: «Destruir a la humanidad» y el Paso 5: «Lograr la inmortalidad».

No llegó muy lejos, aunque parece haber desaparecido en un agujero de conejo de investigación, almacenamiento de información sobre las armas más letales de la historia y planificación de publicaciones en Twitter.

La Comisión Federal de Comercio de EE. UU., que actualmente está investigando OpenAI por preocupaciones de daños al consumidor, no ha tratado directamente con los agentes independientes, pero ha remitido a Reuters a blogs publicados anteriormente sobre falsificaciones profundas y afirmaciones de marketing sobre IA. El CEO de OpenAI dijo que la puesta en marcha está siguiendo la ley y trabajará con la FTC.

«TONTO COMO UNA ROCA»

Dejando de lado las preocupaciones existenciales, el potencial comercial puede ser grande. Los modelos de incorporación se entrenan con cantidades masivas de datos, como texto de Internet, utilizando redes neuronales artificiales inspiradas en la estructura de los cerebros biológicos.

La propia OpenAI está muy interesada en la tecnología de agentes de IA, según cuatro personas informadas sobre sus planes. Garg, una de las personas a las que informé sobre el informe, dijo que OpenAI desconfía de lanzar su proxy abierto en el mercado antes de que se comprendan completamente los problemas. La compañía dijo a Reuters que realiza pruebas rigurosas y crea extensos protocolos de seguridad antes de lanzar nuevos sistemas.

Microsoft, el mayor partidario de OpenAI, se encuentra entre los peces gordos que apuntan al campo de los agentes de IA con «Copiloto a trabajar«Puede crear poderosos correos electrónicos, informes y presentaciones.

El CEO Satya Nadella ve la tecnología Foundation Model como un salto de los asistentes digitales como Cortana de Microsoft, Alexa de Amazon, Siri de Apple y Google Assistant, que, en su opinión, no cumplieron con las expectativas iniciales.

«Todos eran tan tontos como una roca”, dijo al Financial Times en febrero. “Ya sea Cortana, Alexa, Google Assistant o Siri, todas esas cosas no funcionan”.

Alexa ya usa tecnología avanzada de inteligencia artificial, dijo un portavoz de Amazon, y agregó que su equipo está trabajando en nuevos modelos que harían que el asistente sea aún más capaz y útil. Apple se negó a comentar.

Google dijo que está mejorando constantemente su Asistente y que su tecnología dual puede llamar a los restaurantes para reservar mesas y consultar los horarios.

El experto en inteligencia artificial Edward Grivenstettet también se unió al grupo de investigación Google DeepMind de la empresa el mes pasado para «desarrollar agentes públicos que puedan adaptarse a entornos abiertos».

Sin embargo, las primeras iteraciones de consumidores de agentes semiindependientes pueden provenir de nuevas empresas más ágiles, según algunos entrevistados.

Los inversores se rompen.

Jason Franklin de WVV Capital dijo que tuvo que luchar para invertir en la compañía AI Agents de dos ex ingenieros de Google Brain. En mayo, Google Ventures lideró una ronda inicial de $2 millones en Cognosys, desarrollando agentes de inteligencia artificial para la productividad laboral, mientras que Hesam Motlagh, quien fundó la startup Arkifi en enero, dijo que cerró su primera ronda de financiamiento «grande» en junio.

Matt Schleicht, quien escribe un boletín sobre IA, dijo que hay al menos 100 proyectos serios trabajando en marketing de agentes.

«Los empresarios e inversores están muy entusiasmados con los agentes independientes», dijo. «Están más entusiasmados con eso que simplemente con un chatbot».

Información adicional de Anna Tong en San Francisco y Jeffrey Dustin en Palo Alto; Editado por Kenneth Lee y Praveen Char

Nuestros estándares: Principios de confianza de Thomson Reuters.