【研习院】境内企业使用境外AI工具法律风险 A Preliminary Analysis of Legal Risks for Enterprises in China Using Overseas AI

Wischen Sie nach links, um die deutsche Version zu lesen

Einsatz ausländischer KI-Tools in China –

Eine Einführung in die rechtlichen Risiken für Unternehmen

Glissez vers la gauche pour lire la version française

Analyse préliminaire des risques juridiques liés à l'utilisation d'outils d'IA étrangers par les entreprises établies en Chine

左滑看中文版

中国境内企业使用境外AI工具法律风险初探

A Preliminary Analysis of Legal Risks for Enterprises in China Using Overseas AI Tools

In recent years, overseas generative AI tools such as Copilot, ChatGPT, Claude, and Gemini have gradually entered the daily operations of enterprises. From drafting emails and organizing data to internal collaboration and client communication, these tools have significantly enhanced efficiency. Simultaneously, enterprises operating within China—including subsidiaries established by multinational corporations—inevitably face a series of legal and compliance challenges when utilizing these foreign AI tools.

Under China’s current legal framework, legislators encourage the development and application of AI tools while maintaining cautious oversight. Existing Chinese AI-related legislation primarily imposes obligations on “AI service providers”. Nevertheless, ordinary users of AI tools are also subject to various compliance requirements. In particular, because online activities naturally involve cross-border networks and overlapping jurisdictions, enterprises in China that use AI tools developed, owned, and operated overseas may encounter additional legal risks with substantial practical implications. These risks are especially concentrated in areas such as cross-border data transfers, cross-border network access, trade secret protection, cybersecurity, and AI regulation.

The foremost issue to address is cross-border data transfer. The operational logic of foreign AI tools dictates that the content input by enterprises during use is typically transmitted to overseas servers for processing; legally, this process constitutes a “cross-border data transfer”. Under China’s data regulatory framework, data export under specific circumstances may trigger stringent regulatory requirements. Examples include cross-border transfers by “Critical Information Infrastructure Operators” (such as those in energy or government services), the export of “Important Data” (such as financial or telecommunications data), and the transfer of personal information, particularly sensitive personal information. Relevant Chinese laws establish varying degrees of compliance obligations for the cross-border transfer of different categories and volumes of data.

Closely related is the issue of cross-border network access. Influenced by differences in national regulatory measures regarding website access and cross-border application services, as well as the service providers’ own configurations and technical platform issues, users may encounter restricted access to certain AI platforms. For enterprises in China seeking to resolve these issues, the primary consideration must be how to establish cross-border communication channels in a compliant manner.

Beyond regulatory risks, the commercial risks enterprises may face when using AI tools—specifically concerning their own trade secret protection and cybersecurity—warrant equal attention. When generative AI systems process input data, there is a possibility that this data may be utilized for model optimization or even indirectly reflected in future outputs, thereby creating a risk of disclosure to other users. Consequently, enterprises must carefully review the Terms of Service of AI application providers and implement corresponding confidentiality and cybersecurity measures, such as desensitizing input information in advance, or configuring the AI application to a mode that “disallows data usage for experience optimization”. Furthermore, confidentiality clauses are prevalent in many commercial cooperation contracts. As AI applications become more ubiquitous, extending confidentiality obligations to AI usage scenarios naturally must become a universal awareness among users. Inputting one’s own or a third party’s confidential information into a third-party AI system may be deemed an unauthorized disclosure constituting a breach of contract or an illegal act. This necessitates careful judgment based on information type and usage method prior to application, and critically, requires special advisories regarding AI-related confidentiality obligations during contract formation and compliance training.

Particular attention must be paid to the legal status of enterprise users within the AI regulatory framework. Should an enterprise embed AI capabilities into its own products or services, or provide AI-generated content to external users, it may be classified as an “AI service provider”. In such scenarios, the enterprise will face substantially stricter compliance requirements, such as content safety management, algorithm filing, and corresponding data compliance obligations, thereby significantly increasing its legal risks and compliance costs.

Given the complexity and relative uncertainty of the aforementioned issues, enterprises within China should promptly integrate the use of AI tools—especially overseas AI tools—into their internal compliance systems. This poses a greater challenge for multinational groups and their subsidiaries in China, as their compliance frameworks must often reconcile differing legal regulations from both China and their home countries on identical matters. Consequently, it is highly necessary for enterprises to conduct targeted case-by-case assessments and to formulate and implement personalized compliance programs tailored to their specific business models and data types.

Einsatz ausländischer KI-Tools in China – 

Eine Einführung in die rechtlichen Risiken für Unternehmen

In den vergangenen Jahren haben ausländische generative KI-Tools wie Copilot, ChatGPT, Claude und Gemini zunehmend Einzug in den unternehmerischen Alltag gehalten. Ob beim Formulieren von E-Mails, bei der Datenaufbereitung, bei der internen Zusammenarbeit oder in der Kundenkommunikation – diese Tools haben die Arbeitseffizienz spürbar gesteigert. Gleichzeitig sehen sich jedoch Unternehmen mit Sitz in China – einschließlich der von multinationalen Konzernen in China gegründeten Tochtergesellschaften – beim Einsatz dieser ausländischen KI-Tools unweigerlich mit einer ganzen Reihe rechtlicher und Compliance-bezogener Herausforderungen konfrontiert.

Die derzeitige Gesetzeslage in China zeigt, dass der Gesetzgeber die Entwicklung und Anwendung von KI-Tools zwar fördern will, sie aber zugleich einer vorsichtigen Regulierung unterwirft. Die einschlägigen chinesischen Vorschriften zu KI-Tools richten spezifische Anforderungen in erster Linie an die „Anbieter von KI-Diensten“; doch auch die bloßen Nutzer von KI-Tools unterliegen vielfältigen Compliance-Pflichten. Da das Internet keine einheitlichen Grenzen und Rechtsordnungen kennt, kann gerade die Nutzung von KI-Tools, die im Ausland entwickelt werden, sich im Eigentum ausländischer Anbieter befinden und von diesen bereitgestellt werden, für Unternehmen in China mit besonders weitreichenden rechtlichen Risiken verbunden sein. Diese rechtlichen Risiken ergeben sich namentlich aus den Bereichen grenzüberschreitende Datenübermittlung, Netzwerkzugang, Schutz von Geschäftsgeheimnissen, Cybersicherheit und KI-Regulierung.

An erster Stelle ist dabei die Frage der grenzüberschreitenden Datenübermittlung zu beachten. Die Funktionsweise ausländischer KI-Tools bringt es mit sich, dass die von Unternehmen eingegebenen Inhalte zur Verarbeitung in aller Regel an Server im Ausland übermittelt werden; rechtlich handelt es sich hierbei um eine „grenzüberschreitende Datenübermittlung“. Im System der chinesischen Datenaufsicht kann der Datenexport unter bestimmten Umständen strengen regulatorischen Anforderungen unterliegen. Beispiele hierfür sind der Datenexport durch „Betreiber kritischer Informationsinfrastrukturen“ (etwa in den Bereichen Energie oder staatliche Dienstleistungen), der Export „wichtiger Daten“ (wie Finanz- oder Telekommunikationsdaten) sowie die Übermittlung personenbezogener Daten, insbesondere sensibler personenbezogener Daten. Die einschlägigen chinesischen Gesetze sehen für die grenzüberschreitende Übermittlung – je nach Datenkategorie und Datenmenge – jeweils unterschiedliche Compliance-Pflichten vor.

Eng mit der Datenübermittlung verknüpft ist die Frage des grenzüberschreitenden Netzwerkzugangs. Bedingt durch unterschiedliche staatliche Regulierungsmaßnahmen in Bezug auf den Website-Zugang und grenzüberschreitende Anwendungsdienste, aber auch durch die eigenen Einstellungen der Diensteanbieter sowie durch technische Plattformprobleme, kann der Zugang zu bestimmten KI-Plattformen eingeschränkt sein. Für Unternehmen mit Sitz in China ist bei der Bewältigung dieser Probleme zunächst zu prüfen, wie grenzüberschreitende Kommunikationskanäle auf rechtskonforme Weise eingerichtet werden können.

Neben den aufsichtsrechtlichen Risiken verdienen auch die geschäftlichen Risiken Beachtung, denen sich Unternehmen beim Einsatz von KI-Tools aussetzen können; konkret geht es hier um den Schutz eigener Geschäftsgeheimnisse und um die Cybersicherheit. Verarbeiten generative KI-Systeme Eingabedaten, besteht die Möglichkeit, dass diese Daten zur Modelloptimierung genutzt werden oder sogar mittelbar in künftige Ausgaben einfließen und so gegenüber anderen Nutzern offengelegt werden. Unternehmen müssen daher die Nutzungsbedingungen der KI-Anbieter sorgfältig prüfen und angemessene Geheimhaltungs- und Cybersicherheitsmaßnahmen ergreifen, etwa indem sie die eingegebenen Informationen vorab anonymisieren oder die KI-Anwendung in einen Modus versetzen, der die „Nutzung von Daten zur Verbesserung der Nutzererfahrung nicht zulässt“. Darüber hinaus enthalten viele kommerzielle Kooperationsverträge Vertraulichkeitsklauseln. Angesichts der zunehmenden Verbreitung von KI-Anwendungen sollte es für die Nutzer selbstverständlich werden, dass sich die Geheimhaltungspflichten ihrer Natur nach auch auf KI-Nutzungsszenarien erstrecken. Werden eigene oder fremde vertrauliche Informationen in ein KI-System eines Drittanbieters eingegeben, kann dies als unbefugte Offenlegung gegenüber Dritten und damit als Vertragsverletzung oder rechtswidrige Handlung gewertet werden. Dies erfordert eine sorgfältige Abwägung anhand der Art der Informationen und der Nutzungsweise bereits vor dem eigentlichen Einsatz und verlangt insbesondere bei Vertragsabschlüssen und im Rahmen von Compliance-Schulungen gesonderte Hinweise auf KI-bezogene Geheimhaltungspflichten.

Besondere Aufmerksamkeit verlangt darüber hinaus die Stellung des Unternehmensnutzers im Gefüge der KI-Regulierung. Sobald ein Unternehmen KI-Funktionen in seine eigenen Produkte oder Dienstleistungen integriert oder externen Nutzern KI-generierte Inhalte zur Verfügung stellt, kann das Unternehmen als „Anbieter von KI-Diensten“ eingestuft werden. In diesem Fall sieht sich das Unternehmen erheblich strengeren Compliance-Anforderungen gegenüber – etwa im Hinblick auf Inhaltskontrolle, Algorithmus-Registrierung und entsprechende Daten-Compliance-Pflichten –, was die rechtlichen Risiken und Compliance-Kosten des Unternehmens beträchtlich erhöht.

Angesichts der Komplexität und der relativen Unsicherheit der vorstehend genannten Problemfelder sollten Unternehmen mit Sitz in China die Nutzung von KI-Tools – insbesondere von ausländischen KI-Tools – unverzüglich in ihre Compliance-Systeme einbinden. Für multinationale Konzerne und ihre in China gegründeten Tochtergesellschaften stellt dies eine noch größere Herausforderung dar, weil ihre Compliance-Strukturen häufig die unterschiedlichen gesetzlichen Vorgaben Chinas und des jeweiligen Herkunftslandes der Investition für ein und denselben Sachverhalt in Einklang bringen müssen. Umso notwendiger ist es für Unternehmen, auf der Grundlage ihres eigenen Geschäftsmodells und der von ihnen verarbeiteten Datenkategorien gezielte Einzelfallprüfungen durchzuführen sowie maßgeschneiderte Compliance-Konzepte zu entwickeln und umzusetzen.

Analyse préliminaire des risques juridiques liés à l'utilisation d'outils d'IA étrangers par les entreprises établies en Chine

Ces dernières années, les outils d'intelligence artificielle générative développés à l’étranger, tels que Microsoft Copilot, ChatGPT, Claude et Gemini, se sont progressivement intégrés aux activités quotidiennes des entreprises. Qu’il s’agisse de la rédaction d’e-mails, de l’organisation de données, de la collaboration interne ou encore de la communication avec les clients, ces outils permettent d’améliorer considérablement l’efficacité opérationnelle. Dans ce contexte, les entreprises opérant en Chine, y compris les filiales de groupes multinationaux, sont inévitablement confrontées à une série de défis juridiques et de conformité liés à l’utilisation de ces outils d’IA étrangers.

Dans le cadre juridique actuel en Chine, les autorités encouragent le développement et l'application des outils d’intelligence artificielle, tout en les soumettant à une réglementation prudente. Les lois chinoises actuellement en vigueur sur les outils d’IA ciblent principalement les « fournisseurs de services d'IA » en leur imposant des obligations spécifiques. Toutefois, les simples utilisateurs de ces outils sont également tenus de respecter de multiples exigences de conformité. En particulier, dans la mesure où les activités en ligne impliquent par nature des flux transfrontaliers et des chevauchements de juridictions, les entreprises opérant en Chine et recourant à des outils d’IA développés, détenus et exploités à l’étranger peuvent être exposées à des risques juridiques supplémentaires, aux implications pratiques significatives. Ces risques se concentrent notamment dans des domaines tels que les transferts transfrontaliers de données, l’accès transfrontalier aux réseaux, la protection des secrets d'affaires, la cybersécurité ainsi que la régulation de l'intelligence artificielle.

La première problématique à examiner concerne les transferts transfrontaliers de données. Le fonctionnement même des outils d’IA étrangers implique que les contenus saisis par les entreprises lors de leur utilisation soient généralement transmis vers des serveurs situés à l’étranger pour y être traités ; sur le plan juridique, ce processus constitue un « transfert transfrontalier de données ». Dans le cadre réglementaire chinois en matière de données, l’exportation de données, dans certaines circonstances, peut déclencher des exigences réglementaires particulièrement strictes. À titre d’exemple, sont visés les transferts transfrontaliers réalisés par des « opérateurs d’infrastructures d’information critiques » (notamment dans les secteurs de l’énergie ou des services publics), l’exportation de « données importantes » (telles que celles relevant des secteurs financiers et des télécommunications), ainsi que des transferts de données à caractère personnel, en particulier de données sensibles. Les lois chinoises pertinentes prévoient des niveaux d’exigence variables en matière de conformité selon la nature et le volume des données transférées.

Étroitement liée à cette problématique figure celle de l’accès transfrontalier aux réseaux. En raison des divergences entre les réglementations nationales relatives à l'accès aux sites web et aux services applicatifs transfrontaliers, mais également des configurations propres aux prestataires de services et des contraintes techniques des plateformes, les utilisateurs peuvent se heurter à des restrictions d'accès à certaines plateformes d'IA. Pour les entreprises opérant en Chine et cherchant à surmonter ces difficultés, la question centrale réside dans la mise en place de canaux de communication transfrontaliers conformes aux exigences réglementaires en vigueur.

Au-delà des risques réglementaires, les risques commerciaux auxquels les entreprises peuvent être exposées lors de l'utilisation d'outils d'IA — notamment en matière de protection de leurs secrets d’affaires et de cybersécurité — méritent aussi une attention particulière. Lorsque les systèmes d'IA générative traitent des données saisies, il existe un risque que ces données soient utilisées à des fins d’optimisation du modèle, voire indirectement répercutées dans des résultats ultérieurs, ce qui peut entraîner un risque de divulgation à d'autres utilisateurs. Par conséquent, les entreprises doivent examiner attentivement les conditions d’utilisation des fournisseurs d'applications d'IA et mettre en place des mesures appropriées en matière de confidentialité et de cybersécurité. Cela peut inclure, par exemple, la désensibilisation préalable des informations saisies, ou la configuration de l'application d’IA dans un mode excluant l’utilisation des données à des fins d’optimisation. Par ailleurs, les clauses de confidentialité sont largement répandues dans les contrats de coopération commerciale. Avec la généralisation des applications d'IA, l'extension des obligations de confidentialité aux usages liés à l’IA doit devenir un réflexe pour les utilisateurs. Le fait de saisir des informations confidentielles — qu’il s’agisse de données propres à l’entreprise ou appartenant à des tiers — dans un système d'IA externe pourrait être qualifié de divulgation non autorisée à un tiers, susceptible de constituer une violation contractuelle, voire d'un acte illicite. Il est donc indispensable de procéder à une évaluation rigoureuse, tenant compte de la nature des informations et des modalités d’utilisation envisagées, préalablement à tout recours à ces outils. Plus encore, une attention particulière doit être portée à l’intégration d’obligations de confidentialité liées à l’usage de l’IA lors de la rédaction des contrats ainsi qu’au sein des dispositifs de formation et de conformité interne.

Une attention particulière doit être portée au statut juridique des entreprises utilisatrices dans le cadre de la réglementation relative à l'intelligence artificielle. Lorsqu’une entreprise intègre des fonctionnalités d'IA dans ses propres produits ou services, ou qu’elle met à disposition de tiers des contenus générés par IA, elle est susceptible d'être qualifiée de « fournisseur de services d'IA ». Dans ce cas, l'entreprise sera soumise à des exigences de conformité nettement plus strictes, notamment en matière de gestion de la sécurité des contenus, de dépôt ou d’enregistrement des algorithmes, ainsi que d’obligations correspondantes en matière de conformité des données. Cette évolution entraîne, par conséquent, une augmentation significative des risques juridiques et des coûts de mise en conformité.

Compte tenu de la complexité et de l’incertitude relative des problématiques susmentionnées, les entreprises opérant en Chine doivent intégrer sans délai l'utilisation des outils d'IA — en particulier des outils d'IA étrangers — dans leurs dispositifs internes de conformité. Cette exigence représente un défi accru pour les groupes multinationaux et leurs filiales en Chine, dans la mesure où leurs cadres de conformité doivent souvent concilier des réglementations divergentes, émanant à la fois du droit chinois et de celui de leur pays d’origine, sur des problématiques identiques. Dans ce contexte, il apparaît essentiel pour les entreprises de procéder à des évaluations ciblées, au cas par cas, et d'élaborer puis de mettre en œuvre des programmes de conformité personnalisés, adaptés à leurs modèles d’affaires spécifiques ainsi qu’à la nature des données qu’elles traitent.

中国境内企业使用境外AI工具法律风险初探

近年来，以Copilot、ChatGPT、Claude、Gemini为代表的境外生成式人工智能工具，正在逐步进入企业的日常经营场景。从邮件撰写、数据整理，到内部协同与客户沟通，这类工具显著提升了效率。但与此同时，中国境内的企业，包括跨国集团在中国投资设立的企业，在使用这些境外AI工具时，也不可避免地面临着一系列的法律和合规问题。

从中国现行法律规制情况来看，立法者对AI工具的开发和应用是鼓励并谨慎监管的。中国目前针对AI工具制定的法律，主要是针对“AI服务提供者”规定了特定的要求，但对于单纯的AI工具使用者来说，也需要受到多种合规义务的约束。尤其是，鉴于互联网场景下国界、法域的非单一性，中国境内企业使用境外开发、由境外主体拥有并提供使用的AI工具，其背后可能涉及到更多具有实质影响的法律风险。这些法律风险，尤其集中在数据出境、网络访问、商业秘密保护、网络安全以及人工智能监管等方面。

首先需要重视的是数据出境问题。境外AI工具的运行逻辑决定了，企业在使用过程中输入的内容通常会被传输至境外服务器处理，这一过程在法律上构成“数据出境”。在中国的数据监管体系下，特定情形下的数据出境可能会触发较为严格的监管要求。例如，“关键信息基础设施运营者”（如能源、政务服务等领域的运营者等），或者涉及“重要数据”（如金融、电信等领域数据等）的出境，以及个人信息尤其是个人敏感信息出境的情况。中国的相关法律对不同类别、体量的数据出境设定了不同程度的合规义务。

与数据出境紧密相关的，是跨境网络访问问题。受各国对网站访问和跨境应用服务监管措施差异，以及服务商自身设置、平台技术问题等因素影响，用户可能会遇到部分AI平台访问受限的情况。对于中国境内的企业来说，如何解决这些问题，就需要首先考察通过合规方式建立跨境通信通道的问题。

除监管层面的风险外，企业在使用AI工具时可能面临的商业风险同样值得重视，具体而言主要是自身的商业秘密保护和网络安全问题。生成式AI系统在处理输入数据时，存在输入数据被用于模型优化、甚至在未来输出中被间接反映、从而暴露给其他使用者的可能性。因此，企业需要仔细审阅AI应用提供商的服务条款，并采取相应的保密和网络安全措施，例如将输入的信息事先脱敏或将AI应用设置成“不允许数据用于优化体验”模式。此外，在许多商业合作关系中，合作方的合同中往往设有保密条款。随着AI应用的普及，将保密义务自然延伸到AI应用场景，更应该成为用户普遍的意识：将自己或他人应予保密的信息输入第三方AI系统，可能会被认定为未经授权将该等秘密向第三方披露的违约、违法行为，需要在付诸应用前即结合信息类型、使用方式等谨慎判断，更需要在订立合同时、合规培训时即进一步对与使用AI相关的保密义务作出特别提示。

特别需要进一步关注的是企业用户在人工智能监管体系中的身份问题。一旦企业将AI能力嵌入自身产品或服务，或者向外部用户提供基于AI生成的内容，企业可能被认定为“AI服务提供者”。在这种情况下，企业将面临更为严格的合规要求，例如内容安全管理、算法备案以及相应的数据合规义务，从而令企业的法律风险与合规成本显著增加。

鉴于上述问题的复杂性以及相对不确定性，中国境内企业应当将对AI工具、尤其是境外AI工具的使用及时纳入自己的合规体系。这对跨国集团及其在中国投资设立的企业来说更具有挑战性，因为他们的合规建设往往还需要兼顾中国与投资来源国对同一事项的不同法律规制。这就使得企业更有必要结合自身业务模式和数据类型，进行有针对性的个案评估，制订并实施个性化的合规方案。