pirika.comで化学
>チャピエモン-3rd Pirika Origin (CPO)
> ハンセン溶解度パラメータ (HSP)
> 化学全般
> 情報化学 >物性化学 >高分子化学 >化学工学 >その他の化学 >昔のもの
>情報化学ツール >MAGICIAN養成講座 >STEAM
>Pirika ツール群
ブログ
業務案内
お問い合わせ
[1.概要]
機械学習の基本、重回帰法を使う時最も注意しなければならないのは多重共線性の問題だ。大学入試の情報でも扱う。簡単には説明変数間に相関がある時には重回帰は使えないということだ。ブログ：「科捜研の女」榊まりこさんにAI機械学習を相談した。これをこちらに移植
[1. 重回帰法]
| Case | Price | Orange | Apple | Banana |
| 1 | 300 | 2 | 2 | 0 |
| 2 | 180 | 3 | 0 | 1 |
| 3 | 360 | 4 | 1 | 2 |
果物の詰め合わせが売っている。この連立方程式を解いて、各果物の値段を求めてください。小学生でも筆算で解ける子はいるだろう。
これは、機械学習の一番シンプルな例題だが、とても誤解を生む。
解いた答えが各果物の値段なので、重回帰法の答えは（多少の誤差はあるとしても）一つに求まると勘違いしてしまう。
そして、値段（係数）の大きい果物（成分）を増やせば、トータルの値段（例えば薬の活性）は高くなると勘違いしてしまう。
次の場合はどうだろうか？
バーガーが４種類、ポテトが４種類、飲み物が５種類あって、各グループの中から１つを選んでセットを作る。その３つの値段がpriceになる。各バーガーとポテト、ドリンクの値段を重回帰法で求めよ。
| No | Price | Burger1 | Burger2 | Burger3 | Burger4 | Potato1 | Potato2 | Potato3 | Potato4 | Drink1 | Drink2 | Drink3 | Drink4 | Drink5 |
| 1 | 145 | 0 | 0 | 0 | 1 | 0 | 0 | 1 | 0 | 0 | 0 | 0 | 0 | 1 |
| 2 | 165 | 0 | 1 | 0 | 0 | 0 | 0 | 1 | 0 | 0 | 0 | 0 | 0 | 1 |
| 3 | 111 | 0 | 0 | 0 | 1 | 0 | 1 | 0 | 0 | 0 | 0 | 0 | 0 | 1 |
| 4 | 130 | 0 | 1 | 0 | 0 | 0 | 1 | 0 | 0 | 0 | 0 | 0 | 0 | 1 |
| 5 | 77 | 1 | 0 | 0 | 0 | 0 | 1 | 0 | 0 | 0 | 0 | 0 | 0 | 1 |
| 6 | 114 | 0 | 1 | 0 | 0 | 0 | 1 | 0 | 0 | 0 | 0 | 0 | 1 | 0 |
| 7 | 60 | 1 | 0 | 0 | 0 | 0 | 1 | 0 | 0 | 0 | 0 | 0 | 1 | 0 |
| 8 | 132 | 0 | 1 | 0 | 0 | 1 | 0 | 0 | 0 | 0 | 0 | 0 | 1 | 0 |
| 9 | 175 | 0 | 1 | 0 | 0 | 0 | 0 | 0 | 1 | 0 | 1 | 0 | 0 | 0 |
| 10 | 121 | 1 | 0 | 0 | 0 | 0 | 0 | 0 | 1 | 0 | 1 | 0 | 0 | 0 |
| 11 | 111 | 0 | 0 | 0 | 1 | 0 | 0 | 1 | 0 | 0 | 1 | 0 | 0 | 0 |
| 12 | 95 | 0 | 0 | 1 | 0 | 0 | 0 | 1 | 0 | 0 | 1 | 0 | 0 | 0 |
| 13 | 130 | 0 | 1 | 0 | 0 | 0 | 0 | 1 | 0 | 0 | 1 | 0 | 0 | 0 |
| 14 | 77 | 1 | 0 | 0 | 0 | 0 | 0 | 1 | 0 | 0 | 1 | 0 | 0 | 0 |
| 15 | 77 | 0 | 0 | 0 | 1 | 0 | 1 | 0 | 0 | 0 | 1 | 0 | 0 | 0 |
| 16 | 60 | 0 | 0 | 1 | 0 | 0 | 1 | 0 | 0 | 0 | 1 | 0 | 0 | 0 |
| 17 | 96 | 0 | 1 | 0 | 0 | 0 | 1 | 0 | 0 | 0 | 1 | 0 | 0 | 0 |
| 18 | 95 | 0 | 0 | 0 | 1 | 1 | 0 | 0 | 0 | 0 | 1 | 0 | 0 | 0 |
| 19 | 114 | 0 | 1 | 0 | 0 | 1 | 0 | 0 | 0 | 0 | 1 | 0 | 0 | 0 |
| 20 | 60 | 1 | 0 | 0 | 0 | 1 | 0 | 0 | 0 | 0 | 1 | 0 | 0 | 0 |
| 21 | 132 | 0 | 1 | 0 | 0 | 0 | 1 | 0 | 0 | 1 | 0 | 0 | 0 | 0 |
| 22 | 150 | 0 | 1 | 0 | 0 | 1 | 0 | 0 | 0 | 1 | 0 | 0 | 0 | 0 |
| 23 | 199 | 0 | 1 | 0 | 0 | 0 | 0 | 1 | 0 | 0 | 0 | 1 | 0 | 0 |
| 24 | 145 | 1 | 0 | 0 | 0 | 0 | 0 | 1 | 0 | 0 | 0 | 1 | 0 | 0 |
| 25 | 165 | 0 | 1 | 0 | 0 | 0 | 1 | 0 | 0 | 0 | 0 | 1 | 0 | 0 |
| 26 | 111 | 1 | 0 | 0 | 0 | 0 | 1 | 0 | 0 | 0 | 0 | 1 | 0 | 0 |
| 27 | 183 | 0 | 1 | 0 | 0 | 1 | 0 | 0 | 0 | 0 | 0 | 1 | 0 | 0 |
変数が13個で式が27個あるので、連立方程式を解けばよい。Excelにデータをコピーして、分析（必要に応じてAdd-inをインストールしなければならないが）回帰計算を行えば良い。
重相関係数 R=1で、各値段がわかる。
| Burger1 | Burger2 | Burger3 | Burger4 | Potato1 | Potato2 | Potato3 | Potato4 | Drink1 | Drink2 | Drink3 | Drink4 | Drink5 |
| -17.99 | 35.98 | 0.00 | 16.45 | -60.91 | -78.90 | -44.45 | 0.00 | 174.95 | 138.97 | 207.86 | 156.96 | 173.41 |
値段が０円とかマイナスのものが現れてしまう。
しかし、16.45*burger4 + -44.45*Potate3 + 173.41*Drink5 =145になるので式はどれも正しい。ものの値段なので０円とかマイナスは困るので、係数を0以上という制限をつけて計算してみる。（手頃なソフトが見つからなかったので、自作のソフトで探索した。）係数は次のように求まる。
| Burger1 | Burger2 | Burger3 | Burger4 | Potato1 | Potato2 | Potato3 | Potato4 | Drink1 | Drink2 | Drink3 | Drink4 | Drink5 |
| 20.71 | 74.71 | 38.76 | 55.68 | 32.72 | 14.72 | 48.72 | 93.69 | 42.57 | 6.60 | 75.57 | 24.57 | 40.60 |
この２種類の係数をプロットしてみると全く異なる系列であることがわかる。ExcelではDrink類が高価だったが、自作ソフトではそうでもない。
同じバーガーだけで見ても、値段はExcelでは4>3>1>2であるが、自作のソフトでは、2>4>3>1になる。
つまり、解の精度がほぼ同じような係数の組みは幾つでも見つかることになる。
[3. 多重共線性]
この重回帰法の問題点を見ると、統計をよく知っている人は、多重共線性の問題があるのではないかと言う。
多重共線性とは相関行列を計算し、説明変数間（バーガー、ポテト、飲み物）に0.9程度の相関がある場合に起こると言われている。しかしこの例では大きな相関係数を持つ列はない。
[4. 物性推算式の構築]
実を明かせば、このテーブルはハロゲン置換のプロピレンタイプの化合物を表している。値段は分子量(MW:Molecular weight)だ。
| MW | CH3 | CF3 | CH2F | CH2Cl | CF= | CH= | CCl= | CBr= | CF2= | CH2= | CCl2= | CHF= | CHCl= |
| Price | Burger1 | Burger2 | Burger3 | Burger4 | Potato1 | Potato2 | Potato3 | Potato4 | Drink1 | Drink2 | Drink3 | Drink4 | Drink5 |
CX3とCX=と=CX2の組み合わせで分子量は一つに決まる。
当たり前の事だが、CH3, CF3, CH2F・・・・・の分子量は1つに決まっている。ところがこの場合重回帰法では原子団の分子量を定める事ができない。
単品値段（係数）の大きい果物、バーガ成分（成分）を増やせば、トータルの値段（例えば薬の活性）は高くなる。
これが成り立たない事がある。つまり逆設計には使えない。
多重共線性を見てもわからない。
リッジ回帰でもLASSO回帰でも、主成分分析(PCA)でもPLSでもなんでも良い。
情報化学の総力を上げて、一番悪さをするやつから最低限、序列ぐらいは正しくなる係数を求める方法を教えてほしい。
また、多重共線性のように、「説明変数間に0.9以上の相関がある場合には気をつけな」というようなガイディング・プリンシプルが欲しい。
係数の値が不定になるのかは、小学生と同じように変数消去してみればわかる。
CF3-CH3=54
CF3-CH2F=36
CF3-CH2Cl=19.5
CF3がどんな値を取ろうとも、それに合わせたCH3, CH2F, CH2Clが決まるのでグループ内では不定になる。
大学での研究のように対象が限定されず幅広い時にはこの問題が出てくることは少ないが、系を絞って最後のスクリーニングのような企業の研究では思わぬ落とし穴になりうる。
[5. Pirika内リンク]
ブログ：「科捜研の女」榊まりこさんにAI機械学習を相談した。からの移植
Copyright pirika.com since 1999-
Mail: yamahiroXpirika.com (Xを@に置き換えてください)
メールの件名は[pirika]で始めてください