音声合成(おんせいごうせい、英: speech synthesis)とは、人間の音声を人工的に作り出すことである"Speech synthesis is the task of generating speech waveforms" Wang, et al. (2021). FAIRSEQ S2 : A Scalable and Integrable Speech Synthesis Toolkit.。

概要 ヒトは発声器官を通じて音声を生成し、コミュニケーションを行なう(会話や演説、講演、各種芸能およびその中継や録音・録画など)。この音声を人工的に生成するタスクが音声合成である。合成された音声を合成音声(ごうせいおんせい)と呼ぶ。

音声合成は様々な手法で実現できる。ある種の楽器は人の声に似た音を発し、また人の喉を模倣した機械に風を吹き込むことで人の声に似た音が生成できる。コンピューターを用い、音声情報処理の一種としてデジタル的に音声を合成することもできる。

。さらに人工知能(AI)を用いることで、ある人物が実際には話していない発言を映像とともに偽造すること(ディープフェイク)や、自分の声を学習させて癌手術による声帯手術などで発声ができなくなった後でもスマートフォンに入力したテキスト文を自分の声色に似せて音声合成する技術【Hope】失った私の声で会話を/AI学習 そっくり再現:ベンチャー無償提供がん患者らに希望『東京新聞』夕刊2022年8月20日1面(2022年8月27日閲覧)も実用化されている。

音声には言語内容・話者性・感情など様々な情報が含まれており、音声合成では望んだ属性をもつ合成音声の生成が求められる"with desired characteristics, including but not limited to textual content ..., speaker identity ..., and speaking styles" Wang, et al. (2021). FAIRSEQ S2 : A Scalable and Integrable Speech Synthesis Toolkit.。生成にあたり望む属性を外部から入力し生成がおこなわれる。テキスト(文章)を入力し、望む言語内容の音声を生成するタスクは テキスト音声合成(; TTS)と呼ばれる。歌声を合成するものは特に歌声合成と呼ばれる。また、音声を別の個人あるいはキャラクターの音声に変換する手法は声質変換と呼ばれる。

音声合成は幅広い用途で実利用されている(⇒ #用途)。その発展を目指して様々な団体が研究をおこなっている(⇒ #研究)。

歴史 現代的な信号処理手法が発明されるずっと以前から、西アフリカのトーキングドラム等のように音声を模倣する試みがなされてきた。

1779年には、クリスティアン・クラッツェンシュタインにより母音を発声できる機械が製作されたHistory and Development of Speech Synthesis (Helsinki University of Technology) - 英語。この流れはふいごを使った機械式音声合成器を作ったオーストリアのヴォルフガング・フォン・ケンペレンに引き継がれた。彼は1791年に論文Mechanismus der menschlichen Sprache nebst der Beschreibung seiner sprechenden Maschine(『音声の仕組みとしゃべる機械の解説』)を発表し、その機械について説明している。この機械は舌と唇をモデル化しており、母音だけでなく子音も発音できた。1837年、チャールズ・ホイートストンがフォン・ケンペレンのデザインを元にしゃべる機械を製作し、1857年には、M. FaberがEuphoniaを製作した。ホイートストンの機械は、1923年にPagetが再現しているMattingly, Ignatius G. Speech synthesis for phonetic and phonological models. In Thomas A. Sebeok (Ed.), Current Trends in Linguistics, Volume 12, Mouton, The Hague, pp. 2451-2487, 1974.。

1930年代、ベル研究所のホーマー・ダドリー(Homer Dudley)は通信用の電子式音声分析・音声合成器であるボコーダー(vocoder、voice coderの略)を開発した。その後これを応用し、音声合成部にキーボードを付加した鍵盤演奏型の音声合成器であるvoderを製作し、ニューヨーク万国博覧会 (1939年)に出展した。。1940年代には、ハスキンズ研究所のフランクリン・S・クーパー(Franklin S. Cooper)らがPattern playbackという機械の開発に取り組み、1950年に完成した。この機械にはいくつかのバージョンがあるが、。この機械は、スペクトル形式の音声パターンの図を音に変換するものであった。アルヴィン・リバーマン(Alvin Liberman)らは、これを音声学の研究に利用した。

コンピュータを使った最初の音声合成器は1950年代終盤に開発され、最初のテキスト音声合成器は1968年に開発された。1961年、物理学者のJohn Larry Kelly, Jr.とLouis Gerstmenhttp://query.nytimes.com/search/query?ppds=per&v1=GERSTMAN%2C%20LOUIS&sort=newest Louis Gerstmanの死亡記事(NYタイムス)は、ベル研究所でIBM 704を使った音声合成を行った。そしてデイジー・ベルという歌をコンピュータに歌わせた。友人のジョン・ピアースを訪ねてベル研究所に来ていたアーサー・C・クラークはこのデモを聴いて感銘を受けたことで、映画『2001年宇宙の旅』(1968年、監督:スタンリー・キューブリック)に登城するHAL 9000の歌唱シーンともなったBell Labs: Where "HAL" First Spoke (Bell Labs Speech Synthesis website)。

ボカロ文化と一般流通

2000年、日本のヤマハがポンペウ・ファブラ大学との共同開発で始動したDAISYプロジェクトは、2003年に「VOCALOID」技術として発表される。この翌年には、世界初の英語対応・日本語対応ソフトウェアがそれぞれ発売されたが、特に英語圏では、ソウルフルな発声を求めるダンスミュージックの流行と「のっぺりとしていて、人間の声ではない歪さを感じる」合成音声との不協和から普及に失敗した。一方、日本では、動画投稿サイト「ニコニコ動画」(2006年、ドワンゴ)のサービス開始以前でも、俗にアキバ系の隆盛も見受けられる中で、同人音楽での使用に好意的な声もあったという。2007年、「初音ミク」の発売を皮切りに、インターネットを中心としたボカロ文化が広がっていった。

1999年には、東京工業大学のチームにより統計的な生成モデルを用いた音声合成の先駆けである隠れマルコフモデル音声合成が提案された。2013年にはGoogleのチームにより深層学習(ディープラーニング)に基づいた音声合成が提案され、2017年にはテキスト処理部が不要なend-to-endテキスト音声合成が提案された。

用途

音声合成は幅広い用途で実利用されている。以下はその一例である:

情報提示 防災無線 構内放送・車内放送・案内放送(工場・駅・バスターミナル・空港) コミュニティ放送・ハイウェイラジオ 操作・対話 コールセンター自動応答 音声アシスタント(スマートフォン、スマートスピーカー) ATMや複合機などの電子機器、カーナビゲーション、電子辞書、家電 エンタメ アニメ テレビ番組 エンターテインメントロボット 医療・介助 スクリーンリーダー(視覚障害、読字障害) 代替声帯

理論 音声合成では統計的機械学習がしばしば用いられる。すなわち音声データベース(コーパス)に基づき波形生成の確率モデルを学習し合成器とするアプローチである。人の音声生成において、同一話者が同じ文を何回か読み上げたときに全く同一の波形が得られることは極めて稀である。このように音声生成過程および音声信号は非決定的な性質をもち、。

例えば統計的機械学習を用いたテキスト音声合成では、コーパス内のテキスト と音声波形 、与えられたテキスト 、合成目標音声 として、 の予測分布 を から推定し、この予測分布から をサンプリングする。

パイプラインモデル

例えば補助変数として言語特徴量と音響特徴量を導入し次のように定式化する。音声信号の性質を表す音響特徴量を(データベース)および(合成)、テキストの性質を表す言語特徴量を(データベース)および(任意に与えられたテキスト)、言語特徴量が与えられた際の音響特徴量の生起確率を表現するパラメトリックな音響モデルをとしたとき、予測分布は以下のように分解できる。あとは補助変数について周辺化を行えばよいが、これを補助変数の同時確率を最大化する点で近似すると、予測分布は以下のように近似できる。ただし、である。

しかし、同時確率の最大化もなお困難であるため、さらに逐次最適化で近似すると、以下の6つの副問題をそれぞれ最適化することになる。

(音響特徴量の抽出) (言語特徴量の抽出) (音響モデルの学習) (言語特徴量の予測) (音響特徴量の予測) (音声波形の生成)

End-to-Endモデル 中間特徴量を用いず直接音声波形を生成するモデルを End-to-End モデルという。すなわち を1つのモデルで表現し、コーパスを用いて を学習する。

手法 音声合成手法は3つに大別される。

規則合成: 音声生成に関する知識を元に定めた規則に基づいて音声を合成 波形接続型音声合成: 録音された音声の素片を連結して合成 統計的パラメトリック音声合成: 統計的に学習したパラメトリックな生成モデルの出力を元に音声を合成

それぞれの手法は音質、計算量、リアルタイム性などの特徴が異なり、用途に合わせて手法が選択される。

規則合成 規則合成は、研究を通じて得られた音声生成に関する知識を元に規則を定め、その規則に基づいて音声を生成する。歴史的には比較的古い。例えば以下のようなものがある"規則合成は ... 三つの処理に分けることができる ... 第三は韻律情報により規定された音源波形で,パラメータ表現された声道伝達フィルタを駆動して合成波形を生成する処理 ... 音声合成方式は,波形編集方式,分析合成方式 ,ホルマント合成方式などが規則合成に用いられており" 広川. (1993). 規則合成における音声合成単位及び音声合成法 - より高品質を求めて. 日本音響学会誌 49巻, 12号. pp. 847-853.。 分析合成

分析合成は、規則に沿って生成・制御した音響特徴量を合成モデルへ渡すことで音声を合成する手法である"分析合成方式は音声生成過程を音源モデルと声道モデルに分け,それぞれの分析パラメータを独立に制御することにより規則合成音を得る方法である。 " 広川. (1993). 規則合成における音声合成単位及び音声合成法 - より高品質を求めて. 日本音響学会誌 49巻, 12号. pp. 847-853.。合成モデルとそれに対応する音響特徴量の例として以下が挙げられる。

ケプストラム分析: 基本周波数とスペクトル包絡 加算合成: 各周波数と強度 減算合成: 励起信号とスペクトル 線形予測符号化: 励起信号とARフィルタ係数 フォルマント音声合成: 励起信号とフォルマント

フォルマント音声合成 フォルマント音声合成("Formant synthesis versus articulatory synthesis" Klatt. (1979). Software for a cascade/parallel formant synthesizer. J. Acoust. Soc. Am. 67(3).)はフォルマントに基づくフィルタを用いた減算合成の総称である"A formant synthesizer is a source-filter model in which the source models the glottal pulse train and the filter models the formant resonances of the vocal tract." Smith. (2010). Formant Synthesis Models. Physical Audio Signal Processing. ISBN 978-0-9745607-2-4。

ヒトの言語音は周波数スペクトル包絡の凹凸(フォルマント)で特徴づけられる。もしスペクトルが平坦な励起信号(例: 基本周波数に基づく調波、ランダムな白色雑音)に対してフォルマントを反映したフィルタを適用できれば、フォルマントを持った信号を生成できる。これがフォルマント音声合成である。フォルマント音声合成は励起信号とフィルタに基づくため減算合成の一種であり、またフォルマントを音響特徴量とした音声分析合成の一種でもある"Constrained linear prediction can be used to estimate the parameters ... more generally ... directly from the short-time spectrum" Smith. (2010). Formant Synthesis Models. Physical Audio Signal Processing. ISBN 978-0-9745607-2-4。

フォルマント音声合成は数個のフォルマントと励起信号によるシンプルな減算合成であるため、高い信号圧縮を小さい合成器で実現できる。また解釈性が高いため、音素-フォルマント対応の手動設計や音色操作が容易に可能である。。

かつては組み込みシステムでよく使われた。例えば、1970年代末にテキサス・インスツルメンツが発売した玩具・Speak & Spell、セガが1980年代に開発したいくつかのアーケードゲーム(Astro Blaster、Space Fury、Star Trek: Strategic Operations Simulatorなど)、ヤマハのPLG100-SG有声音無声音共通の第一~第六フォルマントと、有声音専用のバズバー及びナザル(鼻音)フォルマントを組み合わせて音を生成する歌声合成音源PLG100-SG取扱説明書 YAMAHAが挙げられる。

調音音声合成

調音音声合成は人間の発声過程モデルに基づいた音声合成の総称である。分析合成が「出てきた音」に着目するのに対し、調音合成では「音が出てくる身体」に着目する。例えば音声を声道長や調音部位のパラメータとして表現し、発声過程の物理モデルを用いて音声を合成する。

商用でも使われた例があり、NeXTで使われていたシステムは、カルガリー大学の研究チームがスピンオフして作ったTrillium Sound Research Inc.が開発したものである。Trilliumはこれをフリーな gnuspeech として公開しており、GNU savannah siteで入手可能である。

波形接続型音声合成

は音声素片を調整・連結して音声を合成する手法の総称である。

波形接続型音声合成では、短い音声波形を素片としこれらを調整したうえで連結して音声を合成する。出力目標に近い素片があれば繋ぐだけで自然な音声を合成できる一方、無ければ素片の調整が必要となり自然性が調整法の品質に依存する。また幅広い表現のためには幅広い表現の素片を用意する、あるいは自然かつ表現力のある調整法を採用する必要があり、様々な手法が開発されている(例: PSOLA - 音高操作、)。これらの前提として、表現を言語化しその音響的特徴を理解する必要がある(収集基準の設定、調整法の考案、合成時の選択に必須)。

単位選択型音声合成 は事前収集された要素の選択に基づく音声合成の総称である。単位選択型合成()とも以下より引用。。古くはコーパスベース音声合成()とも呼ばれた2025年現在幅広く利用されている統計的音声合成がコーパスを学習に利用する(例: ディープラーニング)ため、この呼称は現在では語弊を生みやすい。。

単位選択型音声合成では合成のもととなる「ユニット unit」をラベルと共に事前収集し、合成入力に基づいてユニットを選択し合成することで音声を生み出す。

ユニット収集はデータベース作成とも呼ばれる。データベース作成音声を録音し、その録音した音声に対して、文・フレーズ・アクセント句・形態素・音素・アクセントなどを表すラベルを付与するとともに、音声認識や人手での調整により、ラベルと音声区間の対応を取る。

音声を合成する際には一般に、まず入力テキストをテキスト解析器により解析し、そのテキストの文・フレーズ・アクセント句・形態素・音素・アクセントなどの情報(言語特徴量)を得る。次いで、得られた言語特徴量から基本周波数や音素継続長などを予測し、それに最も合致する(ターゲットコスト)音声素片を、接続部分の滑らかさ(接続コスト)も考慮しつつ、データベース中から選んで接続し、音声を得る。

これにより、肉声に近く自然な音声を合成することを可能としている。しかし、あらゆる入力テキストに対してより自然に聞こえる音声を合成するには、想定される入力テキストに応じて録音する音声を増やす必要があり、その分データベースが巨大になる。単位選択型音声合成では合成器が音声素片を保持しておく必要があるため、容量の小さな補助記憶装置しか持たないシステムではこれが問題になることがある。システムの利用分野を限定する(例: 駅の定型読み上げに限定する)ことでデータベースのサイズを絞ることが可能である一方、これは柔軟性を下げ変更コストを大きくする。

ダイフォン音声合成

ダイフォン音声合成は音声素片にダイフォン(、音素ペア)波形を利用した波形接続型音声合成の一種である。

ダイフォン音声合成ではダイフォン波形が収められたデータベースから入力にマッチする音声素片を選択し、韻律を与えながら素片を接続することで音声を生む。ダイフォンの個数(~音素素片数)は各言語の音素配列論で決定される(例: スペイン語約800、ドイツ語約2,500)。ゆえに単位選択型音声合成と比べてデータベースが小さくなる一方、。

統計的パラメトリック音声合成 統計的パラメトリック音声合成(; SPSS)は統計モデルに基づく音声合成、すなわち確率的音声合成の総称である"Statistical parametric speech synthesis ... as a framework to generate a synthetic speech signal based on a statistical model" Tachibana, et al. (2018). An Investigation of Noise Shaping with Perceptual Weighting for Wavenet-Based Speech Generation. doi: 10.1109/ICASSP.2018.8461332。

録音された音声から音声の特徴を学習したパラメトリックな生成モデルを作り、その生成モデルの出力を元に音声を合成する。波形接続型音声合成では条件次第で合成された音声の滑らかさに問題が生じうるが、統計的音声合成では基本的には滑らかな音声を合成できる。また手法により、複数話者の中間声質、感情が込められた変化の激しい音声など、柔軟で多様な音声合成が可能である。

隠れマルコフモデル音声合成 隠れマルコフモデル (HMM) を音響モデルに用いた音声合成である。HMMにより音響特徴量系列を確率的に生成し、これをボコーダーにより音声波形へと変換する。

統計的パラメトリック音声合成の先駆けであり、東京工業大学のチームによって1999年に提案された。少数のパラメータで音声の特徴を表現でき、モデルの大きさや、モデルの学習および音声の合成に要する計算コストは小さい。携帯電話(フィーチャーフォン)や電子手帳など、ハードウェアの制約が大きい端末でも動作する。また必要な録音時間も(商用の)単位選択型音声合成に比べて短くて済む。

モデルの単純さからスペクトルが人間の音声と比べて平滑なものになりがちであり、このため。また、基本周波数の軌跡も単純なものに。

ニューラルネットワーク音声合成 ニューラルネットワーク音声合成はニューラルネットワークを音声合成モデルに利用した音声合成である。

音響モデル(言語特徴量 to 音響特徴量)をニューラルネットワークでモデル化する、言語特徴量で条件付けられる音声波形確率分布(生成モデル)自体をニューラルネットワークでモデル化する等の方法がある。ニューラルネットワークモデルは隠れマルコフモデルに比べて表現力が高く自然性が高い一方、モデルのパラメータ数、学習・音声合成計算コストは。

初期ニューラルネットワーク音声合成 最初のニューラルネットワーク音声合成モデルは2013年に発表された。初期の研究では隠れマルコフモデル音声合成と同様に音響特徴量を出力していた。2016年には音声波形の直接出力(波形生成モデル)で人間と同等品質の合成が可能な WaveNet が登場した。高い声質をより速く、軽く、シンプルなモデルで実現するための様々な研究が行われた(例: WaveNet VocoderJ. Shen, R. Pang, R. J. Weiss, et al., “Natural tts synthesis by conditioning wavenet on mel spectrogram predictions,” arXiv preprint arXiv:1712.05884, 2017.、ClarinetW. Ping, K. Peng, and J. Chen, “Clarinet: Parallel wave generation in end-to-end text-to-speech,” arXiv preprint arXiv:1807.07281, 2018、WaveGlowR. Prenger, R. Valle, and B. Catanzaro, “Waveglow: A flowbased generative network for speech synthesis,” arXiv preprint arXiv:1811.00002, 2018、WaveRNNN. Kalchbrenner, E. Elsen, K. Simonyan, et al., “Efficient neural audio synthesis,” arXiv preprint arXiv:1802.08435, 2018.、RNN_MSJaime Lorenzo-Trueba, Thomas Drugman, Javier Latorre, Thomas Merritt, Bartosz Putrycz, Roberto Barra-Chicote, Alexis Moinet, Vatsal Aggarwal (2019) TOWARDS ACHIEVING ROBUST UNIVERSAL NEURAL VOCODING. Interspeech 2019)。

また従来はモデル入力に(入力テキストをテキスト解析器によって解析した)言語特徴量が用いられていた。2017年には言語特徴量(テキスト解析器)を不要としたChar2Wav、Deep Voice、Tacotronなどのいわゆるend-to-end音声合成が提案された。

2017年には自然言語処理向けとして効率の良い Transformer が登場し、2018年にはそれを音声合成向けに応用した Transformer TTS が登場したNaihan Li, et al. Neural Speech Synthesis with Transformer Network。

+表. ニューラルTTSモデル名入力出力モデル出典Tacotron 2テキストメルスペクトログラムAutoregressivearxivFastSpeech 2音素メルスペクトログラムTransformerWe use the feed-forward Transformer block, …, as the basic structure for the encoder and mel-spectrogram decoder. arxivarxivFastSpeech 2s音素波形Transformerarxiv このように、設計された言語・音響特徴量を用いたパラメトリックな音声合成(統計的パラメトリック音声合成)は、特徴量によらない波形生成すなわち統計的音声波形合成(statistical speech waveform synthesis / SSWS)へと範囲を広げていったJaime (2018) TOWARDS ACHIEVING ROBUST UNIVERSAL NEURAL VOCODING https://arxiv.org/abs/1811.06292。

連続時間ベースの音声合成 2015年に連続空間に向く拡散モデルが登場し、2020年にその派生として性能の良いノイズ除去拡散確率モデル (DPPM)が登場すると、その後、音声合成でも拡散モデルを用いたものが登場した。これには2021年のDiff-TTS、Grad-TTS、2022年のDiffSingerなどがあるProceedings of the 31st International Conference on Computational Linguistics - DiffStyleTTS: Diffusion-based Hierarchical Prosody Modeling for Text-to-Speech with Diverse and Controllable Styles p.5265 計算言語学会 2025年。

次いで2022年に画像合成として潜在空間拡散モデルを用いたStable Diffusionが登場すると、その後、音声合成でもNaturalSpeech 2(2023年)NaturalSpeech 2: Latent Diffusion Models are Natural and Zero-Shot Speech and Singing Synthesizers Microsoft Research Asia、Microsoft Azure Speech 2023年5月30日のような潜在空間拡散モデルを用いたモデルが登場した。

拡散確率モデルでは確率微分方程式(SDE)の逆過程を定めるパラメータを学習し、生成には確率的サンプリングが必要となっていたが、確率的サンプリングの代わりに SDE と同じ分布変換を持つ常微分方程式 (ODE) の Probability Flow ODE による決定論的なサンプリングも導出され使われるようになっていった。

その後、ODE で表される速度場そのものを直接学習するフローマッチングが登場し、音声合成でもフローマッチングを使った Matcha-TTS、F5-TTS などの音声合成モデルが登場していったTowards Controllable Speech Synthesis in the Era of Large Language Models: A Systematic Survey p.5 Tianxin Xie1 et al. 2025年8月25日。

大規模言語モデル (LLM) ベースの音声合成