Los motores de búsqueda y las plataformas de redes sociales estarán sujetos a la ley de inteligencia artificial de Canadá, dice el gobierno

El gobierno de Canadá ha proporcionado más información sobre las enmiendas a su propuesta de legislación sobre privacidad e inteligencia artificial, aunque en algunos casos no se detalla la redacción exacta.

No se sabe si esto será suficiente para satisfacer a los críticos empresariales y académicos, así como a los parlamentarios de la oposición, para ayudar a acelerar la aprobación de la legislación en el Parlamento. Las audiencias del comité se reanudarán la próxima semana.

En respuesta a una petición formulada la semana pasada por la comisión de Industria de la Cámara de los Comunes, el Ministro de Innovación, François-Philippe Champagne presentó una carta de 12 páginas con detalles de cómo mejorará el gobierno C-27, el proyecto de ley propuesto con tres leyes: la Ley de Protección de la Privacidad del Consumidor (CPPA), que cubre empresas del sector privado reguladas a nivel federal y provincias y territorios que no tienen su propia ley del sector privado; un proyecto de ley que crea un tribunal de privacidad digital para escuchar las solicitudes de castigo del Comisionado de Privacidad federal; y la Ley de Datos e Inteligencia Artificial (AIDA).

La mayoría de la oposición en el comité Exigió a Champagne que presente detalles de las enmiendas propuestas por el gobierno. antes de que los testigos comenzaran a declarar. De hecho, el debate sobre la demanda fue interrumpido por el Comisario de Privacidad, Philippe Dufresne, cuando apenas había pronunciado sus comentarios iniciales. Volverá más tarde. Pero de poco sirvió, argumentaron los miembros del comité de oposición, que los testigos se quejaran de una legislación que está a punto de ser modificada.

Una propuesta de significación descubierto por el profesor de derecho de la Universidad de Ottawa (UofO), Michael Geist: AIDA cubriría el uso de sistemas de inteligencia artificial por parte de motores de búsqueda y plataformas de redes sociales para recomendar o priorizar resultados.

“La inclusión de moderación de contenido y descubribilidad/priorización [of search engine results] “Esto es una sorpresa”, dijo Geist, quien es presidente de investigación de Canadá en derecho de Internet y comercio electrónico, “al igual que equiparar la búsqueda y la capacidad de descubrimiento de la IA con cuestiones como el sesgo en la contratación o los usos por parte de las fuerzas del orden. Mientras el gobierno dice que está alineando más estrechamente sus reglas con las de la UE [European Union]parece que Canadá sería un caso atípico en comparación con la UE y los EE. UU. en este tema”.

En un correo electrónico a Mundo TI Canadá, Teressa Scassa, profesora de derecho de la UofO y catedrática de investigación de Canadá en derecho y política de la información, dijo que la carta de Champagne es sólo “un esbozo de lo que el gobierno tiene en mente”, por lo que el comité y los testigos “tendrán que estar satisfechos con eso. Es frustrante.”

Imran Ahmad, codirector de la práctica de gobernanza de la información, privacidad y ciberseguridad del bufete de abogados Norton Rose Fulbright, dijo que los cambios propuestos mejoran el C-27. De hecho, añadió, “eran necesarias para que el C-27 avanzara con el apoyo más amplio del sector privado. En el frente de la Ley de Datos de Inteligencia Artificial, la creación de categorías de “sistemas de alto impacto” se alinea con el enfoque de la UE. Claramente, el Ministro Champagne ha estado escuchando los comentarios proporcionados por la industria sobre el C-27 desde junio de 2022, cuando se presentó inicialmente el proyecto de ley”.

Aquí hay algunos detalles de la carta de Champagne y los cambios que el gobierno planea hacer a la legislación propuesta:

Sobre la CPPA

– como dijo Champagne en sus comentarios de apertura ante el comité, el derecho a la privacidad ya establecido en la legislación propuesta se cambiaría para decir que es un “derecho fundamental”. Dufresne y otros críticos lo han pedido;

— para fortalecer los intentos del proyecto de ley de proteger a los niños sobre los derechos comerciales. La carta de Champagne ahora dice que el preámbulo “incluirá una referencia específica a los intereses especiales de los niños con respecto a su información personal”.

También se cambiará la redacción de una sección, lo que obligará a las organizaciones a considerar los intereses especiales de los menores al determinar si la información personal se recopila, utiliza o divulga para un propósito apropiado.

Champagne recordó a los parlamentarios que la CPPA ya considera “sensible” toda la información personal de un menor. Esto significa que las empresas generalmente necesitarán obtener consentimiento expreso al recopilar, utilizar o divulgar la información;

— la CPPA otorgaría al Comisionado de Privacidad el poder de obtener un acuerdo de una empresa para cumplir con la legislación. Pero para atender las quejas, el Comisionado no puede imponer una sanción financiera a las organizaciones que no cumplen, la CPPA se modificará para decir que un acuerdo de cumplimiento también puede contener una contraprestación financiera;

Hay una valla

– la legislación propuesta obligaría a las empresas a utilizar aplicaciones de IA de “alto impacto” de manera responsable. Para atender las quejas de que no se definió “alto impacto”, los cambios propuestos agregan un cronograma al proyecto de ley que dice que la definición incluiría sistemas relacionados con determinaciones con respecto al empleo, incluyendo reclutamiento, referencia, contratación, remuneración, promoción, capacitación, aprendizaje, transferencia o terminación; que determinan si se deben proporcionar servicios a un individuo; que determinan el tipo o costo de los servicios que se brindarán a un individuo; o que prioricen los servicios a prestar a los particulares.

Además, el cronograma diría que los sistemas de IA de alto impacto incluyen el uso de un sistema de inteligencia artificial para procesar información biométrica en asuntos relacionados con (a) la
identificación de un individuo, excepto si la información biométrica se procesa con el consentimiento del individuo para autenticar su identidad; o (b) el comportamiento o estado mental de un individuo.

— dejaría claro que AIDA se aplica al uso de un sistema de inteligencia artificial que modera el contenido en línea, incluidos los motores de búsqueda y las redes sociales, en los sistemas de salud y en los sistemas utilizados por la policía.

— los cambios también dejarán claro que quienes desarrollen un modelo de aprendizaje automático
destinado a un uso de alto impacto debe garantizar que se tomen las medidas adecuadas de protección de datos antes de su comercialización;

— Los desarrolladores de sistemas de inteligencia artificial de uso general como ChatGPT tendrían que establecer medidas para evaluar y mitigar los riesgos de resultados sesgados antes de poner en marcha el sistema. Los administradores de sistemas de propósito general tendrían que monitorear cualquier uso del sistema que pudiera resultar en un riesgo de daño o resultados sesgados;

– la carta también dice que el gobierno apoyará las enmiendas sugeridas para fortalecer los poderes del propuesto Comisionado de Datos e Inteligencia Artificial, quien hará cumplir la ley. Algunos críticos se quejan de que el Comisionado de IA depende del Ministro de Industria y no es independiente como el Comisionado de Privacidad, que depende del Parlamento.