カテゴリー: AI

2025年、韓国はアジアにおけるAI規制の先駆者となるべく、「AI基本法（AI Framework Act）」の施行に踏み切ります。これは、欧州のAI法に匹敵する包括的な枠組みであり、生成AIの発展とその社会的影響が加速するなかで、技術と信頼のバランスを模索する野心的な試みです。

背景：生成AIの急拡大と制度の空白

近年、生成AI（Generative AI）の進化は目覚ましく、従来は人間にしかできなかった創造的な作業──文章の執筆、画像や音声の生成、プログラミングまで──を自動で行えるようになってきました。ChatGPTやBard、Midjourneyなどのツールは、日常業務からクリエイティブ制作、教育現場、顧客対応まで幅広く導入されつつあり、すでに多くの人々の働き方や暮らし方に影響を与えています。

しかしその一方で、こうしたAIがどのようなデータを学習しているのか、生成された情報が本当に正しいのか、誰が責任を取るべきかといった根本的な問題は、法制度が追いついていない状態が続いていました。

例えば、AIによって生成された偽のニュース記事や、実在しない人物の画像がSNSで拡散されたり、著作権保護されたコンテンツを学習して生成された画像や文章が商用利用されたりするなど、個人や社会への実害も報告されています。

さらに、AIによる自動判断が採用選考やローン審査に用いられるケースでは、ブラックボックス化されたロジックによって差別や不当な評価が起きるリスクも高まっています。

このように、AIの発展によって利便性が高まる一方で、それを規制・管理するルールの空白が大きな課題となっていました。とりわけアジア地域では、欧州のような包括的なAI規制が存在せず、企業任せの運用に委ねられていたのが現状です。

こうした背景から、韓国はアジアで初めてとなる包括的なAI規制法＝「AI基本法」の整備に踏み切ったのです。これは単なる技術の制限ではなく、「信頼されるAI社会」を築くための制度的土台であり、アジア諸国における重要な前例となる可能性を秘めています。

法律の概要と施行スケジュール

韓国政府は、急速に進化するAI技術に対し、社会的な信頼と産業発展のバランスを取ることを目的に、「AI基本法（正式名称：人工知能の発展および信頼基盤の造成等に関する基本法）」を策定しました。これは、アジア地域における初の包括的AI法であり、AIの定義、分類、リスク評価、企業や政府の責務を体系的に定めた画期的な法律です。

この法律は、2024年12月に韓国国会で可決され、2025年1月21日に官報により正式公布されました。その後、1年間の準備期間（猶予期間）を経て、2026年1月22日に正式施行される予定です。この猶予期間中に、企業や政府機関は体制整備やリスク評価制度の導入、生成物の表示方針などを整える必要があります。

法の設計思想は、EUの「AI Act」などに近いものですが、韓国の法制度や社会事情に即した実装がなされており、特に「高影響AI」と「生成AI」を明確に区別し、リスクに応じた段階的な義務付けを特徴としています。

また、この法律は単に禁止や制裁を目的としたものではなく、AI技術の発展を積極的に支援しつつ、国民の権利と安全を守る「調和型アプローチ」をとっています。政府は、国家レベルのAI委員会やAI安全研究機関の創設も盛り込んでおり、今後の政策的・制度的整備にも注力していく方針です。

なお、詳細な運用ルールや技術的ガイドラインについては、2025年内に複数の下位法令・施行令・省令として順次整備される見通しであり、国内外の事業者はそれに沿ったコンプライアンス対応が求められることになります。

主な対象と規制内容

AI基本法は、AIシステムの利用領域やリスクレベルに応じて「高影響AI」と「生成AI」を中心に規制を定めています。これは、AIの影響力が人々の生活や権利に直結する場面で、透明性・安全性・公平性を担保するためのものです。規制内容は大きく分けて以下の2つのカテゴリに整理されています。

1. 高影響AI（High-Impact AI）

高影響AIとは、個人の安全、権利、経済的利益に重大な影響を与えるAIシステムを指し、法律上最も厳しい規制対象となります。具体的には、以下の分野に該当するAIが想定されています。

• 医療分野：診断支援、手術補助、医薬品開発で用いられるAI。誤診や処方ミスが発生した場合の社会的リスクが極めて高い。
• 金融分野：信用スコアリング、融資可否判断、保険料の算定に関わるAI。不透明なアルゴリズムにより差別や不公平な審査が発生する懸念がある。
• モビリティ・交通：自動運転や交通制御に利用されるAI。交通事故やシステム障害による被害が直接人命に関わる。
• 公共安全・治安：監視カメラや犯罪予測、警察業務で活用されるAI。誤認識や偏った判断による不当な行為が問題視される。
• 教育・評価：入試や資格試験、学習評価に使われるAI。バイアスがかかると公平性を損なう恐れがある。

これらのAIには、以下の義務が課されます。

• 影響評価の実施：社会的リスクを事前に分析・評価し、記録を残すこと。
• 安全性の担保：アルゴリズムの安全性検証、データ品質の確保、セキュリティ対策の実施。
• 透明性の確保：利用者がAIの判断根拠を理解できる説明可能性（Explainability）を担保。
• 登録・認証制度への参加：韓国国内の監督機関に対する登録・報告義務。

2. 生成AI（Generative AI）

生成AIは、文章・画像・音声・動画などのコンテンツを生成するAI全般を対象とします。特に近年問題視されている「偽情報」「著作権侵害」「ディープフェイク」に対応するため、次のような規制が導入されます。

• AI生成物の表示義務：生成されたテキストや画像に対し、「AI生成物である」ことを明示するラベル付けが必要。
• ユーザーへの事前告知：対話型AI（例：チャットボット）を使用する場合、ユーザーがAIと対話していることを明確に知らせる義務。
• データの適正利用：著作権侵害や不適切な学習データ利用を防ぐため、データ取得・学習段階での透明性を確保。
• 悪用防止策の実装：フェイクニュースや不正利用の防止のため、不適切な出力を抑制するフィルタリングや監視機能の実装。

3. 適用範囲と国外企業への影響

AI基本法は、韓国内で提供・利用されるAIサービス全般に適用されます。開発拠点が海外にある企業も例外ではなく、韓国市場にサービスを展開する場合は、以下の対応が必要です。

• 韓国内代理人の設置またはパートナー企業を通じた法的代理体制の構築。
• 韓国語での透明性表示、利用規約の整備。
• 韓国当局への情報提供や登録手続きへの協力。

4. 法規制の段階的強化

この法律では、AIのリスクレベルに応じた段階的な規制が導入されています。低リスクのAIには軽い報告義務のみが課される一方、高影響AIや生成AIには厳格な義務が科されます。さらに、将来的には下位法令の整備により、対象分野や義務項目が細分化される予定です。

企業に課される主な責務

AI基本法の施行によって、韓国国内でAIサービスを展開する企業（および韓国に影響を与える海外事業者）は、単なるシステム提供者から「社会的責任を伴う主体」へと位置づけが変わります。企業には、AIの設計・開発・提供・運用のあらゆるフェーズにおいて、以下のような法的・倫理的な責務が求められます。

1. 透明性の確保（Transparency）

透明性は、AIの信頼性を担保するための中核的な要件です。企業はユーザーがAIを「理解し納得して利用できる」状態を保証しなければなりません。

• AI生成物の表示：生成AIによって作成されたコンテンツ（テキスト、画像、音声など）には「これはAIが生成したものである」と明示するラベル表示が義務づけられます。
• AIとの対話の明示：チャットボットやバーチャルアシスタントのように、人と対話するAIを提供する場合、利用者に対して相手がAIであることを明確に通知しなければなりません。
• 説明可能性（Explainability）：特に判断・推論を行うAIについては、その根拠やロジックをユーザーや規制当局に説明できる体制を整える必要があります。

2. 安全性の担保（Safety）

AIの誤作動や悪用が人命や財産に損害を与えるリスクがあるため、企業には高度な安全対策が求められます。

• バグ・不具合に対する検証体制の整備：AIモデルやソフトウェアの変更には事前テストとレビューが必要。
• 悪用防止策の導入：フェイク生成やヘイトスピーチなどを未然に防ぐために、出力のフィルタリング機能や、異常検出機構の実装が推奨されます。
• サイバーセキュリティ対応：外部からの攻撃によるAIの乗っ取りやデータ漏洩を防ぐため、暗号化・認証・アクセス制御などを適切に施すことが義務になります。

3. 影響評価とリスク管理（Impact Assessment & Risk Management）

特に「高影響AI」を提供する事業者には、導入前にAIの社会的影響を評価することが義務づけられています。

• AI影響評価レポートの作成：AIが人に与える可能性のあるリスク（差別、誤判断、プライバシー侵害など）を体系的に分析し、その評価記録を保存・報告する必要があります。
• バイアスの検出と是正：学習データやアルゴリズムに不当な偏りがないかを点検し、発見された場合には修正対応が求められます。
• ユーザー苦情受付体制の構築：利用者からの苦情や誤判断に対して対応できる問い合わせ窓口や補償プロセスの明確化も含まれます。

4. 国内代表者の設置と登録義務（Local Representation & Registration）

海外企業であっても、韓国国内でAIサービスを提供・展開する場合には、韓国における責任者（代表者）の指定とサービスの登録義務があります。

• 代表者の役割：韓国当局との窓口となり、情報開示要求や監査協力などに対応する必要があります。
• 登録義務：提供するAIサービスの特性、利用目的、技術内容などを当局に申告し、認定・監督を受ける義務があります。

5. 内部統制・教育体制の構築（Governance & Training）

AIの活用が企業活動の中核に位置付けられる時代においては、法令遵守を一部の部署に任せるのではなく、全社的なガバナンス体制の構築が求められます。

• AI倫理ポリシーの整備：自社におけるAI活用の基本方針、開発・運用上の倫理規定などを明文化し、全社員が参照できるようにする。
• 従業員教育の実施：開発者・マーケティング担当・営業など関係者を対象に、AIの倫理・安全・法令対応に関する研修を定期的に実施。
• リスク対応チームの設置：インシデント発生時に即応できる横断的な組織（AIリスク対策室など）を設け、危機管理の一元化を図る。

✔ 総括：企業は何から始めるべきか？

韓国AI基本法は、「AIの使い方」ではなく「どのように責任を持って使うか」に重点を置いています。そのため、企業は以下のような準備を段階的に進めることが重要です。

1. 提供中／開発中のAIが「高影響AI」または「生成AI」に該当するかを整理
2. ユーザーへの説明責任や影響評価の体制が整っているかを確認
3. 表示義務や代表者設置など、制度面でのギャップを洗い出す
4. ガバナンス体制を整備し、社内啓発・教育を開始

この法制度を「制約」と見るか「信頼構築の機会」と捉えるかによって、企業の未来の姿勢が問われます。

海外企業にも影響が及ぶ？

AI基本法は韓国国内の企業に限らず、「韓国国内の市場・利用者に対してAIサービスを提供するすべての事業者」を対象としています。これは、地理的ではなく影響範囲ベースの適用原則（extraterritorial effect）を採用している点で、EUのGDPRやAI法と共通する思想を持っています。つまり、海外企業であっても、韓国国内でAIを活用したプロダクト・サービスを展開していれば、法の適用対象になる可能性が高いということです。

🌐 影響を受ける海外企業の例

以下のようなケースでは、海外拠点の企業でもAI基本法への対応が求められると想定されます：

• 韓国国内向けに提供しているSaaSサービス（例：チャットボット付きのオンライン接客ツール）
• 韓国のユーザーが利用する生成AIプラットフォーム（例：画像生成AI、コード生成AIなど）
• 韓国法人やパートナー企業を通じて展開されるB2B AIソリューション
• アプリ内にAI機能を含むグローバル展開アプリで、韓国語に対応しているもの

これらはすべて、「サービスの提供地が国外であっても、韓国のユーザーに影響を及ぼす」という点で規制対象となる可能性があります。

🧾 必要となる対応

海外企業が韓国AI基本法に準拠するには、以下のような措置が必要になる場合があります。

1. 国内代表者の設置（Local Representative）
   • 韓国国内に拠点を持たない企業でも、法的責任を果たす代理人を設置する必要があります。これはGDPRの「EU域内代表者」に類似した仕組みであり、韓国の監督機関と連絡を取る窓口になります。
2. 生成物の表示対応（Transparency）
   • 韓国語を含むインターフェース上で、AIによるコンテンツ生成である旨を適切な形式で表示する対応が求められます。
   • たとえば、チャットUIに「AI応答です」などの明示が必要になる場面も。
3. データ取得と利用の説明責任
   • AIモデルが韓国国内のユーザーデータや文書、SNS投稿などを利用して学習している場合、その取得経路や利用目的に関する情報開示が求められる可能性があります。
4. 韓国語でのユーザー説明や苦情対応
   • 苦情受付、説明資料、ポリシー表記などの韓国語対応が必要になります。これはユーザーの権利を保護する観点からの義務です。
5. AI影響評価書の提出（必要に応じて）
   • 高影響AIに該当する場合、韓国国内での運用にあたって事前にリスク評価を実施し、所定の様式で記録・保存する必要があります。

🌍 地域別の比較と注意点

地域	AI規制の動向	韓国との比較
EU（AI Act）	リスクベースの法体系、2026年施行予定	韓国とほぼ同時期、類似構成
日本	ガイドライン中心、法制化は今後の検討課題	韓国の方が法的強制力が強い
米国	州単位（例：ニューヨーク・カリフォルニア）で個別対応中	国家レベルでの一元化は進行中
韓国	国家法として一括整備、強制力あり	アジアでは先進的かつ厳格な制度

韓国は東アジア圏で最も明確なAI規制枠組みを構築した国であり、特にグローバル展開を行うAI企業にとって、対応を後回しにするリスクは大きくなっています。

📌 今後の論点

海外企業の一部からは、「韓国市場は限定的でありながら、法対応のコストが大きい」との懸念も示されています。そのため、業界団体などを通じて施行延期や対象緩和を求める声も出始めています。しかし、政府側は「国民の安全・権利保護が最優先」との立場を示しており、法の骨格自体が大きく変わる可能性は低いと見られます。

✅ 対応のポイントまとめ

• 韓国にサービスを提供しているかどうかを確認（明示的な提供でなくとも対象になる場合あり）
• 自社サービスが生成AI／高影響AIに該当するかを分類
• 国内代表者の設置・登録要否を検討
• 韓国語での表示・通知・説明責任の有無を確認
• 必要に応じてガイドラインや外部専門家と連携し、リスク評価と社内体制を整備

業界からの反応と今後の焦点

韓国におけるAI基本法の成立と施行に対して、国内外の企業・業界団体・法律専門家などからはさまざまな反応が寄せられています。とりわけ、業界と政府の温度差が浮き彫りになっており、今後の運用や制度設計における柔軟性が重要な鍵となっています。

🏢 業界の反応：歓迎と懸念が交錯

【歓迎の声】

• 一部の大手テック企業や金融・医療分野の事業者からは、「信頼性を担保することで、AIサービスの社会実装が進む」として、基本法の成立を歓迎する声もあります。
• 韓国国内におけるAI倫理や透明性ガイドラインの標準化が進むことにより、グローバル市場との整合性を取りやすくなるとの期待もあります。
• 特に公共調達において、法に準拠したAIが条件とされる可能性があり、ルールに沿った開発が競争優位になるという戦略的評価もなされています。

【懸念と批判】

一方で、中小企業やスタートアップ、海外展開中の事業者からは以下のような懸念も強く挙がっています。

• コンプライアンス対応のコストが過大 特に生成AIの表示義務や影響評価の実施などは、法務・技術・UIすべての改修を必要とし、リソースの限られる中小企業には過剰な負担になるとの指摘があります。
• 実務運用に不透明感 AIが高影響に該当するか否かの判断基準がまだ曖昧で、ガイドラインや下位法令の整備が不十分であることを不安視する声もあります。
• イノベーションの抑制リスク 一律の規制によって、実験的なAI活用や新規事業が委縮してしまう可能性があるという批判も。とくに新興ベンチャーからは「機動力を奪う制度」との見方も聞かれます。

📌 今後の焦点と制度の成熟

法律自体は2026年1月の施行が決定しているものの、2025年中に策定予定の「下位法令（施行令・施行規則）」や「技術ガイドライン」が今後の実務運用を大きく左右します。焦点は以下のような点に移りつつあります：

1. 対象範囲の明確化 「高影響AI」の定義が現場でどこまで適用されるのか、また生成AIの「AI生成物」とはどの粒度の出力を指すのか、企業が判断可能な実務基準が求められています。
2. 影響評価の具体的運用方法 レポートの様式や評価手順が未確定であり、業界標準としてのテンプレート整備が急務です。これがなければ実施のばらつきや名ばかり対応が起きる可能性があります。
3. 国際整合性の確保 EU AI法や米国のAI責任枠組みとの整合性をどうとるかが、グローバルに事業展開する企業にとって大きな課題です。特に多国籍企業は、複数法規を横断して整合的に対応する体制を迫られています。
4. 行政機関の監督体制・支援策 法の実効性を担保するためには、AI倫理・安全性を監督する専門組織の創設と、事業者支援の強化が必要です。中小企業向けの補助制度や技術支援センターの設置も検討されています。

🚨 一部では「施行延期」の要望も

とくに中小企業団体やスタートアップ協会などからは、「準備期間が短すぎる」「施行を3年程度延期してほしい」といった時限的な緩和措置を求める要望書が政府に提出されています。

ただし政府側は、AIリスクへの社会的対応は待ったなしとし、当初スケジュールに大きな変更を加えることには慎重な姿勢を示しています。そのため、ガイドラインの柔軟な適用や段階的な運用が現実的な落としどころになる可能性が高いと見られています。

🔎 総括

業界にとって、AI基本法は「対応すべき規制」ではあるものの、同時に「信頼性を競争力に変える機会」でもあります。いかにして自社の強みをこの法制度の枠内で活かし、社会的信頼と技術革新の両立を図るかが今後の焦点です。

制度の成熟とともに、規制を「ブレーキ」としてではなく「レール」として捉える柔軟な発想が、企業の成長戦略に不可欠となるでしょう。

結びに：AIと法制度の「対話」の始まり

韓AI技術の進化は止まることなく加速を続けています。それに伴い、私たちの社会、経済、そして日常生活は大きく変わりつつあります。文章を「読む・書く」、画像を「描く・解析する」、判断を「下す」──かつて人間にしかできなかった行為が、今やアルゴリズムによって代替可能になってきました。しかしその進歩の裏で、AIが本当に「正しいこと」をしているのか、そしてその責任は誰が持つのかという問いが、日に日に重みを増しています。

韓国のAI基本法は、こうした問いに国家として正面から向き合おうとする試みです。これは単にAI技術を「規制」するものではなく、技術と社会との関係を再設計し、信頼という土台の上に未来を築こうとする制度的挑戦です。言い換えれば、AIと人間、AIと社会、そしてAIと法制度との間に「対話の場」を用意することに他なりません。

制度は、技術を抑えるための足かせではありません。むしろそれは、持続可能なイノベーションのためのレールであり、信頼されるAIの実現を後押しする設計図とも言えるでしょう。企業にとっても、法に従うことが目的ではなく、その中でどのように価値を発揮できるかを問われる時代になったのです。

そして今、この「法制度との対話」は韓国だけにとどまりません。日本を含むアジア諸国や欧米でも、類似したAI規制が急速に整備されつつあります。各国はそれぞれの文化・制度・価値観に基づいた「AIとの付き合い方」を模索しており、世界はまさにAI時代のルールメイキング競争に突入しています。

私たち一人ひとりにとっても、AIが身近になればなるほど、その設計思想やリスク、社会的責任について考える機会が増えていくでしょう。AIと共に生きる社会において重要なのは、開発者や政府だけでなく、利用者・市民も含めた「参加型の対話」が成り立つ環境を整えていくことです。

韓国のAI基本法は、その第一歩を踏み出しました。そしてその動きは、きっと他国にも波及していくはずです。これはAIと法制度の対立ではなく、共存のための対話の始まり──私たちはいま、その歴史的転換点に立っているのかもしれません。

📚 参考文献

1. South Korea’s New AI Framework Act: A Balancing Act Between Innovation and Regulation
   https://fpf.org/blog/south-koreas-new-ai-framework-act-a-balancing-act-between-innovation-and-regulation/
2. AI Basic Act in South Korea – What It Means for Organizations
   https://securiti.ai/south-korea-basic-act-on-development-of-ai/
3. South Korea’s Evolving AI Regulations: Analysis and Implications
   https://www.stimson.org/2025/south-koreas-evolving-ai-regulations/
4. AI Regulation: South Korea’s Basic Act on Development of Artificial Intelligence
   https://www.lexology.com/library/detail.aspx?g=ccdbb695-a305-4093-a1af-7ed290fc72e0
5. South Korea’s AI Basic Act Puts Another AI Governance Regulation on the Map
   https://iapp.org/news/a/south-korea-s-ai-basic-act-puts-another-ai-governance-regulation-on-the-map/
6. 韓国「AI基本法」施行の背景と展望：KITA（韓国貿易協会）
   https://www.kita.net/board/totalTradeNews/totalTradeNewsDetail.do?no=92939&siteId=1
7. 韓国、AI基本法施行へ　企業に課される責任と透明性の義務とは？（note解説）
   https://note.com/kishioka/n/n382942a9bd99
8. 生成AI対応義務とは？韓国AI法と国際比較【Maily記事】
   https://maily.so/jjojjoble/posts/wdr971wlzlx
9. AI Security Strategy and South Korea’s Challenges（CSIS）
   https://www.csis.org/analysis/ai-security-strategy-and-south-koreas-challenges
10. AI法令と企業リスク：PwC Korea AIコンプライアンスセミナー資料
    https://www.pwc.com/kr/ko/events/event_250529.html