ロジスティック回帰分析で変数選択はどうやる？bestglm

-

統計ソフトRを使って、
多重ロジスティック回帰分析でBICを使って、
簡単に変数選択ができる。

BICは、
Bayesian Information Criterionの頭文字語。

統計モデルへのあてはまりを検討するときに、
変数が多すぎると評価が下がる規準になっている。

変数が多ければ多いほど、
統計モデルへのあてはまりはよくなるが、
新たなデータでの予測には向かなくなるし、
そもそも複雑より単純なモデルで記述できたほうがいい。

まずbestglmをインストールしておく。

install.packages("bestglm")

bestglmを呼び出す。

library(bestglm)

SAheartというデータを使う。

A retrospective sample of males
in a heart-disease high-risk region of
the Western Cape, South Africa.

ヘルプで中身を簡単に見ておく。

 help(SAheart)

SAheartの構造を確認する。
Endpointのchd（2値データ）が
最後の列にあることを確認する。
それがbestglmの特殊なところ。
最後のカラムに従属変数。これが必須。

str(SAheart)

いよいよ計算。
data frameのSAheartを指定して、
familyにbinomialを指定すればOK.

res1 <- bestglm(SAheart, family=binomial)

結果を表示する。
残った変数はタバコとLDL、家族歴、TypeA性格、年齢。

res1

BIC
BICq equivalent for q in (0.190525988534164, 0.90158316218744)
Best Model:
                  Estimate Std. Error   z value     Pr(>|z|)
(Intercept)    -6.44644451 0.92087165 -7.000372 2.552830e-12
tobacco         0.08037533 0.02587968  3.105731 1.898095e-03
ldl             0.16199164 0.05496893  2.946967 3.209074e-03
famhistPresent  0.90817526 0.22575844  4.022774 5.751659e-05
typea           0.03711521 0.01216676  3.050542 2.284290e-03
age             0.05046038 0.01020606  4.944159 7.647325e-07

検討した変数の組み合わせ一覧結果を見るなら、

 res1$Subsets

Best modelから5番目までの表示させるときは、

res1$BestModels

Best modelのestimates (coefficients)を表示させるときは

 res1$BestModel


参考文献：
bestglm: Best Subset GLM

このブログの人気の投稿

SPSSでCox回帰をするときのソフトウェア操作手順

-
Q. ある疾患の遺伝子異常と死亡・再発イベント発生の関連について検討しています。複数の遺伝子異常が予後に関連していると思われるため、比例ハザードモデルを使って各遺伝子異常のハザード比を出したいと思っています。SPSSで解析したいのですが、以下の手順で良いのでしょうか？ 1. 生存変数に各症例の観察期間を入れる 2. 状態変数にアウトカム（死亡・再発イベント発生）を0,1に変換した変数を入れる 3. 共変量に検定したい遺伝子異常を複数強制投入法で入れる（これらはlog-rankで有意に関連している変数に限る） 4. ストラータの所は空白に 5. 結果として出てきたexp (β)がハザード比 Kaplan-Meier曲線を描くときには各遺伝子異常の変数をストラータに入れるため、Coxではこれでいいのかな・・・と心配になったのでご相談しました。

A. そのとおりでよいとおもいます。
続きを読む

「目的変数が正規分布していないのであれば重回帰分析は不適切」への対処法

-
Q.　多変量解析でロジスティック解析を用いて検討を行ったところ、Reviewerから目的変数と説明変数を逆にすべきというような指摘をうけ、目的変数が連続変数になったため、重回帰分析をしてみましたところ、今度はReviewerから目的変数が正規分布していないのであれば重回帰分析は不適切という指摘をうけました。
SPSSで目的変数の正規性を調べたところ、たしかに正規分布はしていないようで、また、残差の正規性があればよいというようなことをいっておられる方もいるようでしたのでそれも調べましたが、残念ながら正規分布ではないようでした。ちなみに、共線性に関しては問題ないようでした。
やはり、目的変数あるいは残差が正規分布していない場合の重回帰分析は適当ではないのでしょうか？ もしそのような場合あとはどのような解析方法が考えられるのでしょうか？？

A.　正規分布していない場合は、ひとつには対数変換してみる方法があります。もう一つは高い低いの二値にしてロジスティック回帰を使う方法があります。

Q.続き　対数変換あるいは高い低いの2値にしてのロジスティックで検討してみたいと思いますが、高い低いの2値にする場合、何を基準に2値にわけるのがよいのかわかりません。統計学でよく使用されるわけ方はあるのでしょうか？もしそのような手段があるようであれば教えていただけますか？
A. 続き　高い低いが臨床上コンセンサスがないとすると難しいです。統計学では指針はありません。あくまで臨床上意味があるカットオフです。
続きを読む

SPSSで比率の区間推定はできますか？

-
Q:　統計ソフトのSPSSで、比率の信頼区間はどのように求めるのでしょうか。 例えばn=100のサンプルで60人がテストに合格したとき、合格率60%の95%信頼区間はどのように求めるのでしょうか。 SPSSでできると聞いたのですが、ネット上を探してもなかなか見つけられません。
A:　SPSSでは、比率（割合）の信頼区間の算出はできないかもしれません。

→このあと知人から、「Version22では可能です」という情報と実行方法を教えてもらいました。ありがとうございました！

「分析」→「ノンパラメトリック検定」→「1サンプル」と進みます。
「フィールド」タブ内で、検定フィールドに解析対象変数を投入します。
「設定」タブ内で、2項検定にチェックします。
「オプション」ボタンを押し、ウィンドウ内でClopper-Pearson（正確）をチェックします。「OK」で抜けて、
「実行」ボタンをクリックすると計算されます。

以上、加筆修正です（10-Jan-2015）。

→さらに「Version 20でもできます」との情報をいただきました。ありがとうございました！（17-Feb-2015）



以下のPPT16枚目には、SPSSでは計算できません！とあります。 http://www.shiga-med.ac.jp/mmc/service/lec/text/spss/spss20090914/presen2.ppt

こちらのブログにはありを１、なしを０にして平均とその信頼区間を計算する方法を薦めています。1/0データの平均を取ると割合になるのは数学上適切です。下記の方法と比べても、一応それらしい区間推定になっているようですが、どうでしょうか。 http://sky-cat5.blog.so-net.ne.jp/2004-12-23
> x <- c(rep(1,60),rep(0,40)) > x   [1] 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1  [35] 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 0 0 0 0 0 0 0 0  [69] 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0…
続きを読む