hashdos脆弱性とunordered-containers

HashMap・HashSetの利用時は注意!

Posted by Yuji Yamamoto(@igrep) on January 21, 2018Tags: Security

あらゆるソフトウェアに脆弱性は存在し得ます。
Haskellは高度な型システムを駆使することで、脆弱性を根本的に回避したプログラムを作ることを可能にします(脆弱性を防ぐためだけのものではないですが、興味のある人はSafe Haskellについても調べてみるといいでしょう)
しかし、だからといって、型を設計する段階で脆弱性を回避できるよう気をつけなければいけないことには変わりませんし、GHCが生成した実行ファイル、使用するライブラリーに絶対に脆弱性がないとは言えません。
現状、Haskellはほかの著名なプログラミング言語ほど使用されていないためか、あまり脆弱性が報告されることはありませんlibcなど、ほかの言語の処理系も依存しているようなライブラリーの脆弱性は別として)
今回は、そんな中でもunordered-containersというパッケージについて、ドキュメントにも書かれているためおそらく直ることがないであろう脆弱性と、その回避方法について紹介します。
hashdos脆弱性自体は結構有名ですし、ドキュメントに書いてあることなので、ご存知の方には何を今更感があるかと思いますが、検索した限りこの問題について日本語で説明した記事は見当たらなかったので、ここで紹介します。

Link to
here
そもそもunordered-containersって?

脆弱性の前にunordered-containersパッケージについて簡単に紹介しましょう。
unordered-containersパッケージは、GHCに標準で付いているcontainersパッケージよりも高速な連想配列(HashMap)や集合(HashSet)を提供してくれます。
StackageLTS Haskell 10.3ではなんと970ものパッケージに依存されている、超大人気汎用パッケージです。

Link to
here
どうやって高速化しているの?

HashMapという名前が示しているとおり、キーとなる値のハッシュ値を計算・利用することで高速化しています。
しかし、Java言語などほかの言語によくあるHashMapとは大きく異なり、内部ではハッシュテーブルを使用していません。
本物のプログラマはHaskellを使う -35回 キーを使って値を参照するMap型:ITproでも説明しているとおり、ハッシュテーブルはミュータブルな配列を内部で使用していることから、イミュータブルなデータ構造を使用して行う関数型プログラミングとは、相性が悪いのですSTモナドやIOモナドを利用したhashtablesパッケージなどを使えば、限られた範囲内でハッシュテーブルを使うこともできます)

ハッシュテーブルを使用しない代わりに、unordered-containersでは内部でHash array mapped trieという特殊な木を使っています。
どのような構造かは、HAMT ~ イミュータブルで高速なハッシュマップ ~ | κeenHappy Hacκing Blogに詳しく書かれています。
こちらのスライドはScalaでの実装の話ですが、基本的にはunordered-containersパッケージのHashMapも同じはずです。

大雑把に言うと、Hash array mapped trieを使ったHashMapでは、ハッシュテーブルと同様に、キーとなる値をハッシュ関数で一旦固定長の整数に変換することで、キーが存在しているかどうかの確認を高速化しています。そのため、containersパッケージよりも高速な処理ができるのです。
containersパッケージのMapではキーの存在を確認する際、キー全体を既存のキーと比較する必要があるため、特に長い文字列をキーとする場合は、処理が遅くなりがちだったのです。

Link to
here
hashdos脆弱性とは?

hashdos脆弱性は2011年頃RubyPHPPerlなど多くのプログラミング言語が影響を受けるとされた、著名な脆弱性です。
ここでも簡単に仕組みを説明しましょう。

前節で説明したとおり、Hash array mapped trieもハッシュテーブルも、必ずキーを一旦固定長の整数に変換します。
文字列など、ハッシュ関数を適用されるキーとなる値は、当然固定長の整数よりも幅広い値を取り得るので、違う文字列同士でも、同じハッシュ値をとることがあります。
この、違う値であるはずのキーが同じハッシュ値をとってしまった状態を「ハッシュ値の衝突」と呼びます。
ハッシュ値の衝突が発生した場合、ハッシュテーブルやHash array mapped trieといったハッシュ値を利用した連想配列は、(単純な)配列やリストなど、やむを得ず逐次探索が必要なデータ構造を内部で使用しなければならなくなります。

hashdos脆弱性はこの性質を利用したDoS攻撃です。
攻撃者は、あらかじめ対象のプログラムで使っているハッシュ関数が、「必ず同じハッシュ値」を返すキー(大抵文字列でしょう)を大量に用意して、それを対象のプログラムに入力として与えることで、簡単にDoS攻撃を仕掛けることができるのです。
先ほど触れた徳丸先生の記事では、PHPのアプリケーションに対してわずか500KBform-dataを送るだけでCPU時間を1分も消費させることができたそうですから、その威力はすさまじいものと言えるでしょう。

Link to
here
なぜ直さないのか?

unordered-containersDeveloper Guideには、次のように書かれています。

Theres an uncomfortable trade-off with regards to security threats posed by e.g. denial of service attacks. Always using more secure hash function, like SipHash, would provide security by default. However, those functions would make the performance of the data structures no better than that of ordered containers, which defeats the purpose of this package.

要するに、「セキュリティー上問題はあるけど、SipHashのような安全なハッシュ関数を使ったらcontainersパッケージよりも速度が出なかった。それではこのパッケージの意味がない」ということです。
containersパッケージよりも高速な連想配列を作るためにunordered-containersパッケージを作ったのだから、それより遅くなっては存在価値がなくなってしまうのです。
従って、ユーザーが任意にキーを入力できるようなプログラムでは、unordered-containersではなく、containersを使え、ということです。
このことはunordered-containersが使用しているhashableのドキュメントにも書かれています。ある意味ノーガード戦法ですね。

Link to
here
回避方法

前節で触れたとおりですが、ユーザーが任意にキーを入力できるようなプログラムでは、unordered-containersパッケージのHashMapHashSetではなく、containersパッケージのMapSetを使いましょう。
containersパッケージにあるMapSetはハッシュ関数を一切使っていないので、ハッシュ値の衝突も起こらず、内部で逐次探索が必要なデータ構造を使ってもいません。
なのでhashdos攻撃に遭うことはないのです。

ただし、実際のところ、StackageLTS Haskell 10.3970ものパッケージに依存されているunordered-containersです。
その中にはJSONのパーサーであるaesonも含まれているので、もしかしたら現状回避するのは非常に困難なのかもしれません。😱
次回は、この問題について試しに攻撃用のコードを書いて速度の低下をチェックして報告する話を書くかもしれません…。😰