En marzo de 2023, el presidente de la SEC, Gary Gensler, describió la inteligencia artificial como «la tecnología más transformadora de nuestro tiempo, a la altura de Internet y la producción en masa de automóviles».
La llegada de una herramienta revolucionaria requiere un período de adaptación. Esto es particularmente cierto para los reguladores, quienes deben asimilar rápidamente suficiente información no sólo para comprender sino, en última instancia, regular la tecnología en cuestión. Mientras tanto, esta tecnología está permeando la industria a un ritmo vertiginoso y nuevos hábitos se están afianzando, para bien o para mal.
Esto añade una presión considerable a un papel que ya enfrenta muchas limitaciones. Los reguladores están constantemente tratando de ponerse al día; es un papel reactivo, regido por muchos factores que escapan a su control. Cuando surge un fenómeno tan transformador como la inteligencia artificial, esta desventaja se intensifica.
La inteligencia artificial añade un elemento de caos. Existe una enorme responsabilidad para gestionarlo eficazmente. Vivimos en un momento crítico del desarrollo humano y debemos aprovecharlo o aprender de él rápidamente. Esto se aplica en general, pero también a sectores específicos como las finanzas, que representan un microcosmos de la sociedad moderna.
A continuación, analizaremos las posiciones actuales de los reguladores, los marcos existentes en los que ya encaja la IA y la dirección que podría tomar su regulación.
Posiciones del regulador hasta el momento
EL SEGUNDO
En julio de 2023, el presidente de la SEC, Gary Gensler expresó sus preocupaciones sobre el uso de la IA en la toma de decisiones de inversión. Dijo que esto corre el riesgo de aumentar el dominio de un pequeño número de plataformas tecnológicas y cuestionó si los modelos de IA pueden proporcionar asesoramiento objetivamente preciso y libre de sesgos. Gensler estaba en buena posición para cuestionar este punto: Circularon falsos rumores sobre su dimisión. debido a la desinformación generada por la IA.
En junio de 2024, el Comité Asesor de Inversores de la SEC organizó una mesa redonda sobre el uso de la IA y Gensler.
reiteró sus preocupaciones, Señaló que esto podría generar conflictos de intereses entre una plataforma y sus clientes. También subrayó que los requisitos fundamentales siguen siendo válidos y que «los participantes en el mercado siempre deben cumplir con nuestras leyes probadas».
A pesar de esto, hasta ahora se ha proporcionado poca orientación concreta y algunas propuestas se discutieron el año pasado.
sigue en estudio.
FINRA
En el Informe Anual de Supervisión Regulatoria de 2024 de FINRA, FINRA clasificó explícitamente la IA como un «riesgo emergente», recomendando que las empresas consideren su impacto generalizado y las consecuencias regulatorias de su implementación.
Ornella Bergeron, vicepresidenta senior de supervisión de miembros de FINRA, dijo que a pesar de las eficiencias operativas permitidas por los desarrollos de IA, las preocupaciones persisten.
“Si bien estas herramientas pueden presentar oportunidades muy prometedoras, su desarrollo ha generado preocupaciones sobre aspectos como la precisión, la privacidad, la parcialidad y la propiedad intelectual. »
En mayo de 2024, FINRA publicó Preguntas frecuentes actualizadas para aclarar su posición sobre el contenido creado por IA. Estos argumentos esencialmente enfatizaban que las normas regulatorias todavía se aplicaban y que las empresas eran responsables de su producción, ya fuera generada por humanos o por IA.
CFTC
La Comisión de Comercio de Futuros de Productos Básicos (CFTC) ha estado relativamente activa en el espacio de la IA. En mayo publicó un informe titulado “Inteligencia artificial responsable en los mercados financieros: oportunidades, riesgos y recomendaciones.” Esto parecía indicar el deseo de la CFTC de supervisar el espacio.
En resumen, la agencia expresó su preocupación de que la IA «podría erosionar la confianza del público en los mercados financieros». El informe destacó riesgos potenciales, incluida la falta de transparencia en torno a los procesos de toma de decisiones de la IA.
Si bien la CFTC parece feliz de tomar las riendas del sistema, el informe exige una colaboración continua entre las agencias federales. También recomienda organizar mesas redondas públicas para fomentar una mejor comprensión del papel de la IA en los mercados financieros y desarrollar políticas transparentes.
¿Cómo se ven afectados los marcos existentes?
Las regulaciones básicas de mantenimiento de registros, como la Regla de marketing de la SEC y la Regla 2210 de FINRA, ponen un gran énfasis en la precisión e integridad de la información que una empresa reporta a sus clientes. El uso de herramientas de inteligencia artificial bien puede poner en riesgo estos principios debido a la retórica impredecible y a menudo inexacta por la que los modelos lingüísticos se han ganado reputación.
Como ha aclarado FINRA, es el contenido en sí el responsable de las empresas; las herramientas utilizadas para crearlo no son necesariamente relevantes. Esto significa que, como mínimo, todos los resultados generados por máquinas deben revisarse minuciosamente antes de su publicación. Lavado de IA
Aunque muchas regulaciones en torno a la IA aún no han llegado a la etapa de propuesta, ya hemos comenzado a ver su aplicación en algunas áreas afectadas.
En marzo, la SEC lanzó acciones coercitivas dirigidas al “lavado de inteligencia artificial”: acusando a dos firmas de asesoría de inversiones Las empresas han exagerado el uso de la IA en sus productos y servicios para engañar a los inversores. Aunque las sanciones impuestas en estos casos fueron mínimas, el director de la División de Ejecución de la SEC, Gurbir Grewal, confirmó que esperaban enviar un mensaje a la industria.
“Espero que estas acciones sirvan de advertencia a la industria inversora. Si se apresura a hacer afirmaciones sobre el uso de la IA en sus procesos de inversión para capitalizar el creciente interés de los inversores, deténgase. Da un paso atrás y pregúntate: ¿son estas declaraciones un reflejo fiel de lo que hacemos o son simplemente aspiraciones? »
“Si es así, sus acciones pueden constituir el tipo de ‘lavado de IA’ que viola las leyes federales de valores. »
¿Y después?
EL SEGUNDO
En la reunión del Comité Asesor de Inversiones de junio, la SEC discutió las reglas que han sido
propuesto inicialmente en julio de 2023abordar posibles conflictos de intereses relacionados con el uso de análisis de datos predictivos (PDA) en las interacciones con los inversores. Las propuestas pedían que todos esos conflictos de intereses se registraran y luego se eliminaran rápidamente.
Los participantes en el panel del 6 de junio apoyaron en gran medida estas propuestas, que ahora deberían implementarse rápidamente. Mientras tanto, al implementar rápidamente sanciones y enviar un mensaje sobre el lavado de IA, la SEC parece ansiosa por mostrar su fortaleza mediante acciones coercitivas en escenarios más claros.
FINRA
Además de confirmar la responsabilidad de las empresas por los resultados generados por los chatbots, las actualizaciones de las preguntas frecuentes de FINRA han enfatizado que las empresas también deben supervisar estas comunicaciones. Esto significa que se deben establecer políticas y procedimientos.
Estas directrices podrían abordar cómo se seleccionan las tecnologías durante la fase de adquisición, cómo se capacita al personal en su uso, el nivel de supervisión humana que existe después de la generación del contenido, etc. Si las empresas ya han adoptado la tecnología de chatbot, o están considerando hacerlo, el siguiente paso debería ser desarrollar este marco interno.
CFTC
Las posiciones claras de la CFTC sobre cómo debería regularse la IA han demostrado una clara voluntad de asumir la responsabilidad y liderar el camino. Alentó el debate público y la colaboración entre agencias, mientras que su informe identificó “oportunidades, riesgos y recomendaciones”. El siguiente paso es, una vez más, integrar esta información en un marco formalizado.
Mientras tanto, el Departamento del Tesoro ha emitido un petición de información Las autoridades estadounidenses han anunciado su posición sobre el uso de la IA en el sector de servicios financieros, cuatro meses después de que la CFTC hiciera lo mismo. En particular, destacaron una posible “escasez de capital humano”, un escenario en el que las empresas utilizan herramientas de inteligencia artificial, con un número insuficiente de empleados que comprendan plenamente las complejidades. La participación del Tesoro ha amplificado las voces de la CFTC, FINRA y SEC, y todo lo que queda es esperar a que sus marcos se redacten colectivamente.
Puede que no tarde tanto como se esperaba. Los reguladores ahora están recurriendo a la IA para mantenerse al día.
«La SEC ha comenzado a analizar cómo los modelos generativos de IA podrían ayudar a abordar las cargas de trabajo de los reguladores», dijo Scott Gilbert, vicepresidente de supervisión de riesgos, supervisión de miembros de FINRA, durante la conferencia de FINRA.
El toque humano
Un reciente relación Un estudio de la FINRA Investor Education Foundation encontró que a pesar de la creciente influencia de la IA en la sociedad, pocos consumidores confían en ella para obtener asesoramiento financiero personal y se muestran escépticos ante la información financiera que produce. Esta falta de confianza del consumidor refuerza las preocupaciones regulatorias que hemos desvelado y aumenta la probabilidad de una gobernanza estricta.
Así como tomó varios años para Los reguladores deben ponerse al día con el uso de WhatsApp En toda la industria, siempre hay un período de gracia. Sin embargo, el hecho de que las nuevas tecnologías no se mencionen específicamente en los marcos existentes no significa que organizaciones como la SEC dudarán en aplicar retroactivamente sanciones que socaven sus principios fundamentales.
Mientras los reguladores consideran los marcos de los modelos de IA y el contenido que generan, las empresas deben registrar toda la producción, ya sea humana o mecánica. Esto garantizará el cumplimiento desde todos los ángulos: principios fundamentales e interpretaciones modernas.
