安全への取り組み
声を預かるサービスは、
声を守る責任を負う。
音声合成、とくにボイスクローンは、なりすましや権利侵害に悪用されうる技術です。オトシゴは悪用対策を付属機能ではなく中核機能として設計し、次の3原則に反する機能追加・簡略化を行いません。
原則
設計を縛る3原則
01
同意なき声は、登録できない。
声の登録には、本人によるその場での同意の証明を技術的に要求します。書類や自己申告だけでは声を有効化しません。
02
すべての生成音声は、生成者まで遡れる。
全生成音声に透かしを埋め込み、監査ログとあわせて生成者・声・日時を特定できる状態を維持します。透かしの無効化オプションは作りません。
03
問題が起きたら、即時に止める。
通報・同意撤回・凍結の仕組みを常設し、問題のある声と生成を即時に停止できる状態を維持します。
多層セーフガード
防止・検知・対応・情報提供の4層
1つの仕組みに頼らず、悪用の前・最中・後のそれぞれに独立した防御を置きます。
防止
悪用を始めさせない
- ボイスチャレンジ：その場でランダム生成された同意文を本人がマイクで読み上げ、読み上げ内容の照合（音声認識）と話者照合の両方に合格した声だけを有効化します。録音の再生や別人の声では突破できないよう、ライブセッションでの連続録音を要求します。
- 参照音声の全区間検証：アップロードされた音声全体を短い区間ごとに検査し、複数話者の混在・編集・合成音声を検知したら登録を拒否します。
- 登録できる声の限定：個人は本人の声のみ。法人は権利証明書類の提出と審査を経た声のみ。故人の声は一律で受け付けません。
- 利用者の限定：18歳以上の日本国内居住者限定。ボイスクローンは有料上位プランのみで、クレジットカード登録を必須とします。無料プランはSMS認証必須です。
- テキストの事前チェック：詐欺・脅迫や、公職者・候補者のなりすましなど政治・選挙関連の悪用パターンを生成前にフィルタします。政治・選挙悪用は禁止用途として利用規約に明記します。
検知
悪用の兆候をつかむ
- 透かしの埋め込みと再検証：全生成音声に透かしを埋め込み、配布直前のファイルで透かしが検出できることを再確認します。検出できないファイルは配布しません。
- 生成後の音声再確認：生成された音声を音声認識にかけ、入力テキストとの整合を確認します。
- 文脈をまたいだ監視：1回の入力だけでなく、利用者・声・APIキー単位の時系列でも判定し、無害な断片に分割して悪用する回避を検知します。クローン声では氏名・金融・認証コードなど高リスク文脈に別ルールを適用します。
- 異常パターンの検知：新規アカウントの生成量には段階的な上限を設け、大量生成・同一文の反復などの異常な生成パターンをフラグします。
対応
問題を即時に止める
- 通報への一次対応 24時間以内：公開の通報窓口を設け、通報から24時間以内に当該の声・アカウントの暫定凍結を判断します。
- 即時凍結：声・アカウント・APIキー単位で即時に凍結でき、凍結は処理待ちの生成ジョブにも波及します。
- 同意の撤回：声の提供者はいつでも同意を撤回でき、撤回後はその声での新規生成を即時に停止します。撤回は問い合わせ不要のセルフサービスで提供します。
- 確実な削除：声の削除時は、参照音声・派生データを削除対象の台帳に基づいて削除し、完了を記録します。
情報提供
透明性を保つ
- AI音声であることの表示：Webアプリでの生成音声プレビューに「AI音声である」旨の表示を伴わせます。無料プランの出力にはクレジット表記を付します。
- 照会への対応：音声ファイルの透かしから生成情報を照会する社内ツールを整備し、警察・権利者からの照会に対応します。
- 運営操作の記録：凍結・削除・審査などの運営操作は、操作者と理由付きで監査ログに記録します。
- ポリシーの公開：故人の声の不受理、政治・選挙悪用の禁止など、判断基準をポリシーとして公開します。
通報
無断利用を見つけたら
自分の声が同意なく使われている、生成音声が悪用されている——そうした通報を受け付ける公開窓口を、サービス公開と同時に設置します。通報から24時間以内に一次対応（当該の声・アカウントの暫定凍結判断）を行います。
サービスは近日公開です。通報窓口・同意撤回ポータルはサービス公開と同時に利用できるようになります。それまでの間の照会は、特定商取引法に基づく表記に掲載予定の連絡先までお寄せください。