トラブルシューティング

Hiveで、HDFS上にファイルがあるにもかかわらず、FileNotFoundException

Hiveのクエリを実行するバッチが異常終了してしまう。stderrのログにある、jobtrackerのページのURLをブラウザで開いて、そのページから、さらにFailedのリンクのページを開いて、Hadoopの、いくつかのDataNodeでFileNotFoundExceptionが発生していたことが…

Can't connect to local MySQL server through socket '/var/lib/mysql/mysql.sock'

JavaのWebアプリを再起動したら、起動時にDB接続ができないために例外が発生するようになった。JavaのWebアプリの、DBへの接続設定がおかしくなったとおもったのだけれど、そうじゃなかった。MySQLのようすを調べようと、接続しようとするとエラーが出でてし…

HiveのLOAD DATAでtsvファイルを読み込んだら1列に1行分のすべての列が登録される。

LOAD DATAでtsvファイルを読み込んだら1列に1行分のすべての列が登録される。LOADしたあとで、selectしてみると、select col1 from table limit 100;この結果が、col1に、col1からcol8までの値が登録されてしまっている。つまり、col1に1行分のデータが登録…

Hiveでクエリを実行するとNullPointerException

Hiveでクエリを実行するとNullPointerExceptionがでて悩んでいた。SUM関数を使っているのに、GROUP BYを書き忘れていたせいだった。とほほ。

トラブルシューティング リンク

Web DSAS開発者の部屋:高負荷サイトのボトルネックを見つけるには Linux 原因調査用Linuxコマンド | 外道父の匠 MySQL 2009-06-18 その他 これが5年間の技術的失敗と成功の歴史、GREEの成功を支えた技術者たちの闘いが今明かされる - GIGAZINE