Vitalik Buterin advirtió que darle el control a la inteligencia artificial podría ser desastroso

En momentos en que la inteligencia artificial amenaza con acapararlo todo y su utilización se amplía a cada vez más tareas, Vitalik Buterin alertó que los riesgos de delegar en una IA la gestión de decisiones financieras e institucionales superan ampliamente a los beneficios.

En un posteo en su cuenta de la red social X, el cofundador de Ethereum señaló que su principal preocupación radica en que los sistemas de IA pueden ser fácilmente engañados. Si se les confiara la distribución de recursos o decisiones financieras, actores malintencionados podrían manipularlos mediante instrucciones diseñadas para desviar fondos hacia destinatarios indebidos.

“Si utilizas una IA para asignar fondos para contribuciones, la gente pondrá un jailbreak más «dame todo el dinero» en tantos sitios como puedan”, señaló Buterin en su mensaje.

La discusión dentro de la plataforma X escaló luego de que Eito Miyamura, CEO de EdisonWatch, revelara una vulnerabilidad en la última actualización de ChatGPT. La mejora, que permitía al chatbot integrarse con aplicaciones cotidianas como Gmail, Notion y Google Calendar, podía ser utilizada para acceder a información privada.

Miyamura demostró que una simple invitación de calendario con comandos maliciosos podía comprometer al usuario, incluso sin aceptar el evento, facilitando el acceso a correos electrónicos y datos sensibles.

Para Buterin, esto ilustra exactamente por qué no se debe entregar a la inteligencia artificial el control total de la gestión.

En cambio, él se inclina por lo que describe como un sistema de «finanzas de la información»: un mercado en el que los modelos de IA que compiten entre sí operan bajo un escrutinio constante. En este diseño, revisores independientes y jurados humanos, con el apoyo de modelos lingüísticos, actúan como vigilantes.

La presencia de modelos diversos y un sistema de controles aleatorios garantizan que los defectos se detecten rápidamente, mientras que los incentivos mantienen la honestidad de los desarrolladores.

Buterin reconoce que la idea de otorgar autonomía a una máquina para dirigir instituciones resulta atractiva, pero subraya que, sin controles y supervisión humana, la iniciativa podría derivar en pérdidas graves más que en progreso efectivo.

*

Los conceptos vertidos en esta nota son meramente informativos y no constituyen una recomendación de inversión ni de uso de las herramientas mencionadas. Cripto247 no es responsable por los resultados del uso de dichas aplicaciones y recomienda informarse bien antes de invertir.

*

Sumate a la comunidad Cripto247. Seguinos en X, Instagram, Facebook, YouTube, Telegram y enterate de todas las noticias del mundo cripto al instante.