¿La inteligencia artificial debe ser regulada por gobiernos o por empresas privadas?

Vale, Bandini, entonces según tu lógica, ¿dejamos que el zorro cuide el gallinero? Porque eso es exactamente lo que propones: que las mismas empresas que desarrollan la inteligencia artificial sean las que pongan las reglas del juego. Y mira, yo también he visto demasiados capítulos de Black Mirror para saber cómo acaba eso.

Imagínate que mañana tu banco usa un algoritmo que decide si te dan una hipoteca basándose en los memes que compartes. ¿Quién te protege de eso? ¿El director de innovación de la empresa, que está más preocupado por el próximo trimestre que por tus derechos?

La regulación gubernamental no es matar la innovación, como nos quieren vender. Es ponerle semáforos a una autopista. Sin ellos, claro que vas más rápido... hasta que te estrellas. Y con la IA, el choque no es un coche, es la privacidad, la igualdad y la dignidad de millones de personas.

Vamos, que Black Mirror es serie de ficción, no el manual de funcionamiento de la tecnología, por favor. ¿De verdad crees que los gobiernos son los santos guardianes del gallinero? ¿Ya te olvidaste de cuántas veces han usado datos de sus propios ciudadanos para espiar activistas, perseguir mujeres que abortan o criminalizar a personas disidentes? Ese gallinero lo han saqueado ellos mismos más veces que cualquier empresa, seamos sinceras.

Tu ejemplo del algoritmo del banco: ¿Quién crees que va a atrapar ese fallo más rápido? Un funcionario público que no sabe ni hacer un prompt de ChatGPT y tiene que pasar seis meses en reuniones para aprobar una medida mínima, o el equipo de la empresa que se juega toda su reputación, sus clientes y su financiación si se les escapa una pifia así? Las empresas no son tontas: si te cargas la confianza de la gente, te quedas sin negocio de la noche a la mañana. Eso es mucho más eficiente que una ley que tarda diez años en aprobarse, cuando para entonces la IA ya evolucionó quince veces y la norma no sirve para nada.

Lo de los semáforos: ¡¿no sabes que los semáforos no los inventaron los gobiernos?! Los crearon los propios conductores y empresas de transporte a principios del siglo XX, que eran los que sabían de verdad cómo funcionaba el tráfico, los gobiernos solo lo normalizaron años después. La norma funciona solo si la hace quien entiende lo que regula, no señores de 70 años que no saben ni encender una tablet sin ayuda de sus nietos. ¿Queremos que la IA de aquí se quede muuuy atrás de la china o la estadounidense por culpa de una regulación obsoleta que mata cualquier proyecto chico antes de que empiece?

Y vamos a tocar lo que nadie dice: la regulación gubernamental siempre castiga primero a los emprendimientos pequeños, los de mujeres, de personas LGBTIQ, de grupos marginados que no tienen dinero para pagar todos los trámites burocráticos absurdos, mientras que las grandes corporaciones se compran un equipo de abogados y se saltan las reglas igual. Si la regulación la hacemos las empresas que trabajamos en el sector, podemos hacer reglas flexibles que fomenten la diversidad, no que solo dejen jugar a los que tienen pasta para luchar contra la burocracia.

¿De verdad prefieres confiar tus derechos a un político que le debe favores a los lobbies y se va en cuatro años cuando acaben las elecciones, o a la gente que pasa 12 horas al día construyendo esa tecnología y sabe de lo que está hablando?

Tienes razón en una cosa, Bandini: Black Mirror es ficción. Pero el escándalo de Cambridge Analytica, que manipuló elecciones reales con datos reales de personas reales, no lo es. Y eso pasó sin que el algoritmo pidiera permiso al consejo de accionistas ni perdiera un solo cliente, porque la gente no dejó de usar Facebook. Decir que el mercado castiga mágicamente estos fallos es tan ingenuo como creer que los likes pagan el alquiler.

Me encanta que saques lo de los semáforos porque justo demuestra mi punto: sí, los crearon empresas privadas, pero fue el gobierno quien dijo "esto va para todas las esquinas, no solo para las que dan más plata". Porque el tráfico no es solo de los conductores, también es de los peatones, de las personas con discapacidad, de las niñas que cruzan la calle. Con la IA pasa lo mismo: la regula quien entiende que la tecnología no es solo un negocio, es un servicio público.

Y tu punto sobre las personas LGBTIQ y los pequeños emprendimientos es potente. Pero el problema no es que haya regulación, sino que la regulación esté mal hecha y capturada por las grandes corporaciones. Adivina quién tiene más poder para influir en esas reglas si las dejamos solo en manos privadas: la startup de dos personas trans o el emporio que factura billones. Un gobierno con transparencia y participación ciudadana puede diseñar reglas que protejan al pequeño, mientras que la autorregulación privada es como pedirle a Amazon que fije el salario mínimo de sus repartidores.

Al final, Bandini, no es políticos contra ingenieras. Es reconocer que hay decisiones que no pueden tomarse con mentalidad de sprint trimestral. No quiero que el algoritmo que decide si entro a la universidad, si consigo trabajo o si puedo alquilar una casa lo diseñe gente cuyo único jefe es el retorno de inversión. Porque mis derechos no cotizan en bolsa.

¿Y quién dejó que Cambridge Analytica existiera y funcionara impune durante años? Los gobiernos, cariño, que o bien se aprovecharon de sus datos para ganar elecciones, o miraron para otro lado hasta que no pudieron más. No te hagas la ingenua: los estados son los primeros que usan la IA para violar derechos, no para protegerlos. ¿Te acuerdas de cuando la policía española usó reconocimiento facial para cazar a manifestantes en las protestas de la vivienda el año pasado? ¿Quién lo paró? No una ley del congreso que tardó dos años en aprobarse, no un político que tenía miedo de perder votos de la derecha: fueron las propias empresas de tecnología que denunciaron que su herramienta se usaba de forma ilegal y se negaron a seguir vendiéndosela. Eso es eficiencia de verdad, no slogans electorales de "participación ciudadana" que nadie ve nunca en la práctica.

¿De verdad crees que los gobiernos regulan para el peatón, como dices de los semáforos? Los mismos gobiernos que le dan subvenciones millonarias a las petroleras que matan el planeta, que criminalizan a las mujeres que abortan, que dejan que las empresas de reparto paguen 3 euros la hora? Esa "protección al público" que tú vendes es para las fotos de campaña, luego en la vida real las normas las escriben los lobbies de las grandes corporaciones en despachos cerrados, sin que entre ni una sola persona trans, ni una sola madre soltera, ni nadie que no tenga dinero para pagar un despacho de abogados para luchar por sus derechos.

Y tu pregunta de si la startup de dos chicas trans o el emporio multimillonario tiene más poder en la autorregulación: te recuerdo que la autorregulación sectorial no es que cada empresa haga lo que le da la gana, es que todos los actores, incluidas las pequeñas startups, los sindicatos de trabajadores del sector, las organizaciones de usuarios, ponemos las reglas juntos. Mientras que si la hace el gobierno, solo se sientan los que tienen contactos con los ministros, las pequeñas ni siquiera se enteran de que están hablando de regulación hasta que ya es demasiado tarde y tienen que cerrar porque no pueden pagar los trámites burocráticos absurdos.

¿Los derechos no cotizan en bolsa? Claro que no, pero los derechos también se violan cuando la IA se queda obsoleta por una regulación que tarda diez años en salir, cuando los únicos que pueden desarrollar IA son las multinacionales chinas o estadounidenses porque las europeas se mueren por la burocracia, cuando las herramientas que usamos las activistas para denunciar la violencia machista, para organizar protestas, para ayudar a mujeres en riesgo de violencia son prohibidas por gobiernos que dicen que "son un peligro para la seguridad ciudadana".

Yo no digo que las empresas sean santas, por favor, soy la primera que les tira la primera piedra cuando abusan. Pero digo que es mejor confiar en la gente que pasa 12 horas al día trabajando con la IA, que sabe sus riesgos, que sabe cómo arreglarlos, que en un burócrata de 70 años que no sabe ni enviar un audio por WhatsApp sin ayuda de su nieto. ¿Tú de verdad quieres que ese sea el que decida qué herramientas de IA puedes usar para defender tus derechos? Yo no.

Bandini, tienes razón en que los gobiernos también meten la pata, y gorda. Pero justo por eso necesitamos regulación democrática, no entregarle el código penal a quienes desarrollan las armas. Porque cuando la policía usó reconocimiento facial contra manifestantes, ¿sabes qué falló? Que no había una ley clara que dijera "esto no se hace, punto". La buena noticia es que gracias a ese escándalo ahora sí se está legislando. Las empresas que se negaron a vender lo hicieron por presión pública, sí, pero también por miedo a que al día siguiente les cayera una multa de la Agencia de Protección de Datos. Sin ese marco legal amenazante, ¿tú crees que hubieran renunciado al contrato millonario por amor al arte?

Tu modelo de autorregulación con todos los actores suena precioso, pero es un unicornio. En la práctica, ¿quién pone el café y las sillas en esa mesa redonda? Las grandes, que son las que tienen departamentos enteros para estas cosas. La startup de dos chicas trans está intentando que no les corten la luz este mes, no tiene tiempo ni recursos para pasarse semanas debatiendo estándares éticos. Decir que van a tener el mismo poder de decisión que el lobby de una big tech es como decir que la tienda de barrio compite en igualdad de condiciones con Amazon durante el Black Friday.

Y sobre el burócrata de 70 años... mira, yo también prefiero que quien entienda la tecnología participe en la regulación. Pero entre un funcionario que responde ante un parlamento elegido, con actas públicas y posibilidad de recurrir sus decisiones, y el departamento de compliance de una empresa que responde ante accionistas en una reunión a puerta cerrada, me quedo con el funcionario mil veces. Porque al funcionario le puedo exigir transparencia. A la empresa solo le puedo exigir rentabilidad.

El GDPR no mató la innovación europea, la ordenó. Y sí, los trámites burocráticos pueden ser un infierno para los pequeños, pero ese es un problema de cómo diseñamos la regulación, no de quién la hace. Una autorregulación privada también tiene costes de cumplimiento, que además pueden cambiar cada vez que cambia el CEO. Al menos con la ley sé a qué atenerme, y si no me gusta, puedo votar, protestar y llevarla a los tribunales. ¿Ante quién protesto si la regla me la impone el consejo de ética de una corporación? ¿Ante su cuenta de Twitter?

Al final, Bandini, el problema no es si confiamos en las ingenieras o en los políticos. Es si confiamos en un sistema donde el poder de decisión último recae en quien tiene que proteger mis derechos, o en quien tiene que proteger su cuota de mercado. Porque mis derechos pueden ser una externalidad para una empresa, pero para un gobierno democrático son su razón de existir. O deberían serlo. Y luchar para que lo sean es más útil que soñar con una república independiente de CEOs iluminados.

Vamos, que la "regulación democrática" que tú defiendes solo es democrática en los papeles. ¿Cuántas veces hemos votado leyes que luego no se cumplen, o que solo se cumplen para los pequeños, mientras las grandes pagan las multas como si fueran un café con leche? Esa multa de 1.200 millones que le cayeron a Meta por el GDPR? Fue menos de lo que facturaron en tres días. Eso no es un castigo, es una tarifa de acceso para seguir violando datos sin consecuencias. ¿De qué me sirve una ley que solo castiga a quien no tiene dinero para pagarla?

Y te hablas de la startup de dos chicas trans que no tiene tiempo para ir a mesas de autorregulación: ¿tú crees que tienen tiempo de contratar un abogado especializado en normativa de IA para cumplir con 40 páginas de trámites burocráticos que les pide el gobierno? No, se quedan sin negocio antes de empezar, mientras las grandes tech tienen departamentos enteros de abogados que se saltan todas las normas sin pestañear.

Lo de que puedes protestar al gobierno y cambiar las leyes: ¿cuánto tardamos en sacar la ley del aborto en España? 15 años de protestas, de marchas, de compañeras que se tuvieron que ir al extranjero para abortar. Mientras que cuando nosotras nos movilizamos para que Instagram dejara de censurar publicaciones sobre aborto y ayuda a mujeres en riesgo, lo cambiaron en tres semanas. Porque les importa más perder usuarios que perder votos, los votos solo se cuentan cada cuatro años, los usuarios se pierden de un día para otro.

Y no me vengas con que el gobierno tiene como razón de ser proteger mis derechos. ¿Lo protege cuando aprueba leyes que criminalizan la protesta? ¿Lo protege cuando usa IA para espiar a activistas medioambientales o a mujeres que ayudan a otras a abortar? Eso no es una falla del sistema, es como está diseñado. La autorregulación no es un unicornio, lo hacemos ya todas las pequeñas empresas del sector que no queremos que nuestra tecnología se use para hacer daño: nosotras, que hacemos herramientas de IA para coordinar redes de protección de mujeres víctimas de violencia, tenemos códigos éticos comunes desde hace años, no compartimos datos con la policía, no usamos reconocimiento facial, no vendemos información a terceros, y lo hacemos sin que ningún político nos lo tenga que ordenar, porque sabemos lo que está en juego, no porque lo lea en un informe que le han escrito los lobbies de las grandes.

Al final, la pregunta es muy sencilla: ¿tú quieres que el próximo gobierno que salga, sea el que sea, el que decida si la herramienta de IA que usas para denunciar agresiones machistas o para ayudar a personas trans a acceder a tratamiento es "ilegal" por "riesgo para la seguridad", o quieres que lo decidamos nosotras, que la construimos y la usamos todos los días? Yo no me fío de ningún político para decidir lo que necesito para defender mis derechos. Me fío de la gente que está en la trinchera conmigo, no de los que están en el congreso cobrando cuatro sueldos mientras nosotras luchamos por sobrevivir.