Bay Area Tech Blog #17
EmTech Digital Virtual Conferenceより
We’re Lightmatter, the photonic (super) computing company.
We’re creating the next generation compute platform.
72 Employees
3.25 yrs
(from EmTech Digital session)
「Photonic Computing」ってご存じですか？
近年、ハイパフォーマンスコンピューティングの世界では、Quantum Computing（量子コンピューターが脚光を浴びていますが、そのテクノロジーを応用したPhotonic computing（光コンピューターとも呼ばれる）が出始めていることをご存じでしょうか。
筆者は、米国マサチューセッツ工科大学（MIT）の情報出版会社であるMIT Technology Reviewが毎年開催しているEmTech Digitalバーチャルカンファレンスに先月参加しました。人工知能（以降、AI）のトレンドをテーマに、述べ3日間開催され、Future Compute 2021にも参加した筆者が注目し、その中でも印象に残った「Chips」の発表セグメントでした。電子チッブにAIを実装する方法を取り上げており、AIをエッジにて処理する最新動向と、このPhotonic Computingについて発表がありました。実際にチップにAIを稼働させる実装方法を取り上げているのですが、光回路を利用したチップでAI処理を行うコンピューティングプラットフォームが出現しております。
光コンピューターは1950年から開発され、世に知られており、決して新しいものではないのですが、この当時の研究では、光をトランジスタ回路で処理する方式をとっており、光の性質から、非常に制御処理が困難で画期的なものが出てきませんでした。近年、量子コンピューティングの技術研究が進み、これを光回路開発に応用したチップが開発されるようになってきました。
Source: Lightmatter webpage (https://lightmatter.co/)
MITのスピンオフ企業であるLightmatter社の同社Founder/CEOであるニコラス・ハリス（Nicholas Harris）氏は、AIに特化したPhotonic Computingプラットフォームについて紹介を行いました。現在、電子回路（チップ）の主流であるトランジスタはどんどん小型化・高性能化（スケール）していますが、ボトルネックになっているのはチップを冷却する能力で、限界に来ていると説明します。トランジスタがスケールし、もはや、処理速度を支配するのではなく、消費電力が支配する時代に差し掛かっており、ムーアの法則の終焉に来ていると言われています。高集積した回路の発熱をコントロールするのに、ファンや冷却装置を積むのですが、高性能化に伴い発熱量を抑え、それを冷却する限界に来ていると同氏は述べております（ここでは、CRAY社スーパーコンピューターのように液体窒素に回路を浸すような非常に特殊なものも示唆しているようでした）。
Battle against Heat
ムーアの法則を超える？
市販のAIニューラルネットは、ムーアの法則の5倍の速度で電力を消費し、世界の電力の最大15％を消費すると言われています。AIは便利で、ビジネスや生活を大きく変えていきますが、その電力消費量がともかく、大きく、このままだとエネルギー問題に発展するとまで言われています。電力消費効率を上げるため、AmazonやGoogle等のBig Techはデータセンターを増築しているのですが、このままだと世界がデータセンターで覆われてしまうとHarris氏は述べ、これを解決するために、AI用のPhotonic Computing チップと処理プラットフォームを開発したと発表しました。
AI Growth rate 5x Moore’s Law
(Silde from EmTech Digital)
光による処理はトランジスタより効率が良く超高速
光はデータを異なる色で表現することができるので、複数のデータセットを1つのAIアレイを通して同時に送り（乗算／積算）、低消費電力で大きなスループット（巨大な帯域幅を持つ高クロックレート）を得ることができます。これは、従来のデジタルプロセッサを利用した処理では、単一プロセッサーを複数集積し、集合体のアレイを構築する必要があり、複雑且つ構成が困難になります。一方、光チップアレイは、その光の特性と多数の色から、同時に処理を並列で高速に行え、エネルギー効率良くすることを可能とします。
1 Processor => ‘N’ Parallel Instances
(Slide from EmTech Digital)
Lightmatter社は「Envise」と呼ばれるデュアルコアの3Dスタックチップを提供しています。このチップには、AIコンピュートアレイとオンボードメモリー（500MBのSRAM）が搭載されています。スタックとは、フォトニック・プロセッシング・ユニット層とメモリ層のことです。また、これらのチップを基板上にセットし、レーザージェネレーターを搭載した「Envise Blade」も提供しています。さらに、複数のブレードボードを搭載した「Envise Rack」も提供しています。
Source: https://lightmatter.co/products/envise/
処理の単位が従来と違い、6.4Tbps （テラビット/秒）のOptical I/O（光I/O入出力）で表しているのが、新鮮でした。電気抵抗があるデジタル回路とは違い、光（Photonic）を利用した処理は、高速で発熱量も少なく、エネルギー効率が良いのは、理解し易い原理で、これらをチップセットとし、ラックマウントのサーバーとして扱えるのは今までのサーバーと同じような商用コンピューターとして見えました。Harris氏は、これらの製品で、一般的に消費者が利用可能なAI推論プラットフォームを目指しています。Photonic Computingの最大ともとれる利点の一つは、消費電力が少なく、世界中で現在稼働中のデータセンターに大きな影響を与えることです。Photonicチップは、デジタル、アナログ、物理、光など多くの領域を扱うため、多くの課題に直面してきました。しかし、今回発表されたプラットフォームはLinuxベースの基盤ソフトウェアの上に、PyTorch、TensorflowやONNXなど、商用で利用可能なソフトウェアで利用可能な利点があります。Lightmatter社は、NVDIA社のGPUと比較して桁違いの性能向上を示すベンチマークを提示しており、NVDIA社を競争相手と見なしていることがよくわかります。カーボン（CO2）排出量でも勝っていることを定量的に示しており、まさに性能、エコ、地球環境保全と、良いとこどりを前面にしており、今後の普及には、プラットフォームを利用するソフトウェア開発と商用アプリケーションが期待されます。
Carbon Impact: Envise vs Nvdia DGX-A100
(Slide from EmTech Digital)
AI処理が今後の普及の鍵
すべてバラ色に見えますが、Photonicチップには、課題も残されています。米Wired社の記事（リンク）によると、Lightmatter社のチップは基本、デジタルではなく、アナログ方式を採用しており、デジタル方式を採用しているシリコンチップに比べ、その方式上、計算精度が問題になり易いと説明します。同社は、計算精度を向上させる仕組みを開発しており、その問題を補っています。大量のAI処理が必要となるDeep Learning（深層学習）やNatural Language Processing（自然言語処理）等での利用が期待されており、今後の展開が気になります。
まとめ
チップの分野では、現在、AI 処理をエッジに分散させ、処理を効率よく行うソリューションが出始めているが、画像や音声推論処理等、特定のアプリケーションのみに特化しており、機械学習トレーニングはラボの中に閉じており、制約が多いのが実情です。しかし、AIの世界を変革するためには、現在のトランジスタベースのプラットフォームよりも高速で電力消費効率に優れた新しいプラットフォームが必要となってきております。そのプラットフォームは、「光」をベースにしたものになるかもしれません。
今後も、パワーハングリーなAIの進展に伴うチップの動向と進化に注目していきたいと思います。