Aparece un icono de computadora en una pantalla sobre la bandera china en esta ilustración el 12 de julio de 2017.
Thomas White | Reuters
BEIJING – Las autoridades chinas planean restringir la forma en que las empresas usan algoritmos para vender productos a los consumidores, una medida que, según los analistas, probablemente iría en contra de los intereses comerciales y sentaría un precedente para otros países.
Las empresas de tecnología más grandes de China del gigante del comercio electrónico Ali Baba Para el propietario de TikTok, ByteDance ha construido su negocio de miles de millones de dólares en algoritmos que entregan el contenido en el que es más probable que un cliente gaste dinero o tiempo, según los registros de visualización anteriores.
El regulador de ciberseguridad cada vez más poderoso el viernes Lanzamiento del borrador de las reglas generales Para organizar utilice los llamados algoritmos de recomendación. La propuesta está abierta para comentarios hasta el 26 de septiembre, sin una fecha de implementación específica aún.
Las reglas innovadoras podrían conducir a un choque entre los gigantes tecnológicos en China, que ha estado sujeto a una mayor regulación en los últimos 10 meses, y Beijing, que buscó frenar su poder.
Los analistas dijeron que las reglas del algoritmo chino serán monitoreadas de cerca por otros países y compañías de tecnología de todo el mundo para ver cómo afectan los modelos comerciales y la innovación.
«Las empresas tendrán mucho que decir sobre esto porque tiene el potencial de reestructurar los modelos comerciales», dijo a CNBC Kendra Schaefer, socio de la firma de asesoría Trivium China, con sede en Beijing.
Las reglas también han planteado preguntas sobre cómo se produce la aplicación y qué tan intrusivos deben ser los reguladores para que las empresas cumplan con las reglas.
¿Qué dice el borrador?
Estos son algunos de los puntos principales del borrador de las reglas:
- Las empresas no deben crear algoritmos que lleven a los usuarios a la adicción o gasten grandes cantidades de dinero.
- Los proveedores de servicios deben notificar a los usuarios de manera clara sobre los servicios de recomendación algorítmica que brindan.
- Los usuarios necesitan una forma de desactivar los servicios de recomendación algorítmica. Los usuarios también deben tener una forma de seleccionar, revisar o eliminar las etiquetas de usuario utilizadas en el algoritmo de recomendación.
- Cuando se utilizan algoritmos para comercializar bienes o proporcionar servicios a los consumidores, la empresa que los respalda no debe utilizar el algoritmo para hacer una diferenciación «irrazonable» en términos de precios o condiciones comerciales.
- Cualquier violación de las reglas podría resultar en multas para las empresas que oscilan entre 5.000 y 30.000 yuanes (773 y 4.637 dólares).
Estas reglas propuestas se producen cuando el gobierno chino intensificó sus regulaciones sobre los gigantes tecnológicos nacionales en el último año, principalmente en nombre de Supresión de prácticas monopolísticas Y Incrementar la protección de datos..
Miércoles, nuevo Ley de seguridad de datos entró a la fuerza. a Ley de privacidad de datos personales Entrará en vigor el 1 de noviembre.
¿Cómo se vería la aplicación?
Los algoritmos de recomendación consisten en código que se alimenta con información específica sobre los usuarios para ayudar a proporcionar más detalles. Resultados. Si está en un sitio de comercio electrónico, es posible que algunos de los elementos que ve en la página de inicio estén allí debido a sus hábitos de navegación o compras.
Pero el código del algoritmo no es algo que se publicite y puede dificultar la implementación. Como mínimo, puede requerir que los reguladores examinen el código de las empresas detrás de los algoritmos.
«No se pueden implementar regulaciones computacionales sin mirar el código», dijo Schaefer a Trivium China.
Se requiere que las autoridades lleven a cabo “evaluaciones de seguridad” algorítmicas e inspecciones de los servicios de recomendación, de acuerdo con el borrador de las reglas. Las empresas deben cooperar y proporcionar cualquier soporte técnico o de datos necesario.
Eso le daría a los reguladores de China un poder enorme.
Pero también plantea algunos desafíos.
«En primer lugar, se necesita la capacidad técnica para hacer eso … También se necesita un proceso burocrático para hacer eso. Todo esto tiene que resolverse y aún no está hecho», dijo Schaefer.
Esta interferencia podría conducir a un choque entre los gigantes tecnológicos y los reguladores de China.
«Estoy seguro de que existen problemas de derechos de privacidad con las empresas … [the code] Es información de propiedad.
Ninguna de las empresas tecnológicas chinas contactadas por CNBC hizo comentarios inmediatos sobre el borrador de las reglas, y dos indicaron que era demasiado pronto para evaluarlas. El regulador de ciberseguridad no respondió de inmediato a la solicitud de CNBC de comentar sobre el alcance de la implementación o el impacto en la innovación.
¿Cambios en el modelo de negocio?
Muchos gigantes tecnológicos en China no ganan dinero directamente con sus algoritmos. En cambio, se utilizan para dirigir a los consumidores a los productos. Por ejemplo, puede ver videos en una aplicación y luego obtener contenido recomendado similar. La empresa lo monetizará mediante la publicidad o incluso logrando que usted compre cosas.
Las últimas reglas podrían obligar a las empresas a cambiar sus modelos de negocio, pero no está claro hasta qué punto.
«El jurado aún está deliberando sobre las implicaciones para las operaciones y las ganancias», dijo Ziyang Fan, director de comercio digital del Foro Económico Mundial.
“Depende de varios factores, como el nivel de ejecución y la reacción del mercado: cuántos usuarios elegirán ‘detener’ [the] Algoritmo de recomendación si eso conducirá a una experiencia de usuario subóptima, como obtener lotes de videos de gatos cuando eres un aficionado a los perros. «
“Si vemos una caída significativa en índices como DAU [daily active users] Y las tasas de retención, las implicaciones en las ganancias también podrían ser significativas «, dijo, y señaló que las empresas de redes sociales pueden ver el impacto más, mientras que las compras en línea y los viajes» tal vez menos «.
¿Dónde está parado el resto del mundo?
A medida que crece la intersección entre la tecnología y la vida cotidiana, los países y regiones de todo el mundo buscan cada vez más formas de regular las tecnologías y las empresas que las venden.
Esto ha llevado a diferentes caminos, hasta ahora. En el campo de los algoritmos, China está poniendo especial énfasis en la característica de recomendación de la tecnología, mientras que Estados Unidos y la Unión Europea están discutiendo leyes más amplias sobre inteligencia artificial.
A principios de este año, la Unión Europea aprobó un proyecto de ley llamado Ley de Inteligencia Artificial con el objetivo de facilitar “el desarrollo de un mercado único para aplicaciones de IA legítimas, seguras y confiables” e impulsar la innovación en el espacio.
La ley tiene «requisitos específicos destinados a reducir el riesgo de discriminación de cuentas».
Pero hay una serie de diferencias con las reglas del algoritmo chino.
Fan, de WEF, dijo que la UE está adoptando un «enfoque basado en el riesgo», mientras que las reglas de China «no distinguen entre los niveles de riesgo y se aplican a todos los usos de la tecnología de recomendación algorítmica». Esto puede incluir una amplia gama de industrias, desde la entrega de alimentos hasta la educación.
Fan agregó que las reglas de China «apuntan a los algoritmos directamente al nivel del usuario y del producto», como la capacidad de los usuarios para desactivar el algoritmo, como se estipula en las reglas propuestas.
Una vez que se promulgue la ley china sobre algoritmos, se seguirá de cerca en todo el mundo mientras las autoridades intentan descubrir cómo regular la tecnología en el futuro.
«Este será un ejemplo mundial», dijo Schaefer. «Las empresas de tecnología extraterritoriales verán cómo las empresas de tecnología chinas son rentables o no dadas estas limitaciones en los algoritmos. Si cambian los modelos de negocio, y si pueden tener éxito a pesar de las regulaciones sobre el proceso algorítmico, hay muy pocas excusas … Para que los gobiernos extranjeros no Hacer lo mismo.»
«Si fracasan y no obtienen las mismas ganancias y los accionistas están decepcionados, eso también es malo», dijo. «Esto refuerza el argumento de que no se pueden implementar regulaciones algorítmicas sin efectos adversos sobre la innovación».
«उत्साही सामाजिक मिडिया कट्टर»
