Chef で Bitbucket のプライベートリポジトリから Java コードを clone してきて deploy
掲題の通り、Chef で環境を構築してそのままアプリをデプロイしたい時の設定です。
Tomcat 前提ですが、Tomcat のインストール部分は省略してます。また、ここでは root ユーザでやってますが、適切なユーザを作成してファイル・ディレクトリの権限を付与した方がいいです。
Chef の git resource を使って bitbucket から clone
git "/tmp/app" do repository "git@bitbucket.org:my-repository/my-app.git" ssh_wrapper "/root/.ssh/ssh4bitbucket.sh" end
プライベートリポジトリだと Permission denied とか言われるはずなので、公開鍵認証を使用します。 鍵の作り方等は以下を参照してください。
git で ssh 使うために秘密鍵を配置
files/default に秘密鍵を置き、 Bitbucket には公開鍵を登録しておきます。
directory "/root/.ssh" do action :create mode "700" end cookbook_file "/root/.ssh/id_rsa" do source "id_rsa" mode "600" end
directory — Chef Docs cookbook_file — Chef Docs
git resource で使用する ssh_wrapper を配置
ssh_wrapper では以下の2点を指定してます。
file "/root/.ssh/ssh4bitbucket.sh" do mode "700" content <<-EOL #!/bin/bash ssh -i /root/.ssh/id_rsa -o "StrictHostKeyChecking=no" "$@" EOL end
war ファイルを作成して配置
Maven プロジェクトを前提としています。
適切な resource や Cookbook が見つからなかったので、Shell でやります。
script "complie source code and set war file" do interpreter "bash" user "root" code <<-EOL cd /tmp/app mvn install mvn package chown root:tomcat target/app.war mv -f target/app.war /usr/share/tomcat/webapp/app.war EOL end
まとめ
以上です。
ちなみに deploy という resource もChef には有るのですが、migrate のフェーズはあるものの、ビルドするタイミングがなかったので使用してません。ビルドの必要のない言語とかだとこの deploy を使ったほうがスッキリかけるかもしれません。
ISUCON3予選で何も出来なかった話 #isucon
YAPC でYAPC::Asia 2013 で「社内ISUCONのつくりかた」を発表しました - 酒日記 はてな支店に刺激されたので ISUCON に会社の後輩と参加しました。
もともと3名で登録してたけど、インフラ方面の頼みの綱がこれなくなっててんやわんやした結果、ほとんど何も出来ずに終わってしまった。もともとアプリ寄りなのでインフラとか全然わからなかった。
やったこと
作業ログは残してあるけど時間軸が記憶頼みなので適当に記載。
事前準備
1時間前に会社について方針を練る。とりあえず、序盤は top で概要把握して、おそらく DB が序盤のボトルネックになるだろうからスロークエリの出し方とか予習してた。
あとは前回・前々回の参加者ブログ*1を読み返してた。
序盤
AWS はちょくちょく使ってたので大丈夫だと思っていたけど、Quick Launch Wizard から Key Pair 変更できなかったりなんなりで20分ほど出遅れる。
SSH で接続できるようになったらとりあえず README 読んでアプリを nodejs に切り替えてから最初のベンチを取った*2。ちなみに、lingr 見て supervisord についてググってってしてたらこの時点で11時近くになってた気がする。初期スコアは確か1000ちょいだったかな。
とりあえず、ベンチ取りながら top 見てると案の定 MySQL に負荷がかかってるみたいなので、自分はそっちの調査とチューニングをして後輩にはアプリのコードで怪しそうな処理がないか見てもらうことに。バージョン管理とかどうしようか考えたけど、とりあえず webapp 以下を git init しておいた。
そういえば、後輩にはアプリのコードとは別にベンチマークツールの挙動を解析してもらおうと思ったけどバイナリだったので諦めた*3。そりゃそうか。
mysql 入って show variables でスロークエリが OFF なのを確認。isucon ユーザでは設定書き換えれなかったので my.cnf を探す。 my.cnf が /usr/my.cnf しかみつからなかったので、無視して sudo vi /etc/my.cnf にスロークエリの設定だけ書く。
[mysqld] slow_query_log = ON long_query_time = 0.01
ベンチ回して mysqldumpslow で確認したので片っ端からインデックスはった。created_at は不要かもしれないとは思ったけど、既存データがちゃんと id 順で入ってるのか確認するのが面倒だったので後回し*4。
ALTER TABLE memos ADD INDEX is_private(is_private); ALTER TABLE memos ADD INDEX list(is_private,created_at,id); ALTER TABLE memos ADD INDEX user(user,created_at);
インデックスはった後、公式のベンチ実行時に DB リセットされるのに気付き、lingr を見つつ init 用のファイルを作成。インフラ力*5が無くて exit 0 とファイルの実行権限ではまったけど、ここまででスコアは 2000 前後。
途中後輩が毎回 username を users テーブルから取ってきてるのを見つけたので、username を memos に持つように指示。/memo で older と newer の計算も重そうだと言ってたで、SQL 1本に出来そうだと思ったけど早くなるか微妙だと判断したため後回しに。ちなみに、この判断は間違ってたっぽい。
初期化スクリプトで既存データにも username 持たせないといけないのでそれに着手しようとしたところで 12 時過ぎていたのでお昼に。
中盤
昼ごはんを食べながらせめてスコア 5000 位はいかないとなーとか話してた。
後輩が username 周りの実装が終わったので、初期化スクリプトで以下の SQL を読みこませるようにした。
/** ADD COLUMN **/ ALTER TABLE memos ADD `username` varchar(255) NOT NULL AFTER user; /** UPDATE username in memos table **/ UPDATE memos, users SET memos.username = users.username WHERE memos.id = users.id; /** ADD INDEX **/ ALTER TABLE memos ADD INDEX is_private(is_private); ALTER TABLE memos ADD INDEX user(user,created_at); ALTER TABLE memos ADD INDEX list(is_private,created_at,id);
これでスコアは 2400 くらい出た。
後は、node のログを見てると /js, /css, /img とかの静的ファイルを返していたので、静的ファイルは Apache で返そうと試みる。みんな簡単に「静的ファイルをApacheで返すようにした」とか言ってるので簡単そうに思ってたけどここで大ハマリした。テンパってたのと Apache 力の低さと、途中で Varnish か memcached で返そうとか思ってグチャグチャしてるうちにベンチ通らなくなって詰んだ。基本から勉強しよう。
後輩には、ログをざっと見た感じ /recent とかが重そうって言ってあって、それを考慮しつつアプリ側の細かい修正をしてたようだけど、ここらへんから情報共有してる余裕がなくて余り把握していない。
終盤
結局ベンチ通らないまま原因がわからなかったので、残り1時間くらいでインスタンスを新しく立ち上げてそちらにこれまでの作業を移行することに。移行自体は10分程度で終了し*6、公式ベンチをまわしてみるとスコアが 2000 に下がってた。なぜ？
最後のあがきで Apache や MySQL のパラメータ・チューニングを試みるも大きな効果はなし。
後輩が /memo の older と newer の件を思い出したけど時既に遅く、両方見つけたらループから抜けるという適当な処理を入れて最後のベンチを取ろうとしたらタイムアップ。最終的にスコア 2600 台が出たけど送信できず。
反省点
- 会社にドンピシャな書籍がいくつかあったのに Web の情報ばかりに頼ってしまった。本を読もう。
- まずアプリの内容を把握しておくべきだった。Markdown 変換の処理に終了後まで気づかず*7。アプリちゃんとみてればもう少しやれることがあったな。
- 後回しにしたタスクの棚卸し大事。
- --workload の意味に気づかず。ただ負荷が上がるだけのストイックモードなのかと思った。負荷が上がるということは捌ける数も下がってスコア下がるんだろうなという安直な発想してしまった。んなオプションあるわけない。
- インフラ力がたりない。もう少し色々弄らないとな、nginx 触ってみよう。
まとめ
基本的なことすら出来ず残念*8でした。ただ、普段やらないインフラ周りの設定とか勉強できたのでかなり学びが有ったし楽しかった。@fujiwara さん @acidlemon さん始め、運営のみなさんありがとうございました！
Java 実装あったら嬉しかったかも。
YAPC::Asia Tokyo 2013 でボランティアスタッフしてきた
YAPC 楽しかったですね！！
「ブログを書くまでが YAPC です。」って参加者の皆さんに言い続けたので1年以上ぶりにブログ書きます。
多分来年は全然違う形になると思うけど、今年の YAPC::Asia ボランティアスタッフの流れとか書いときます。
ボランティアスタッフ応募
6月に YAPC のチケット販売が始まったので即買いしたら、その後ボランティアスタッフ募集が有ったのでそっちに切り替えました。Perl コミュニティ好きだけど自分は Perl わからない人なので、普通の参加者よりボランティアの方が楽しそうだと思い応募。
YAPC::Asia Tokyo 2013 ボランティアスタッフ募集します！
ボランティア説明会（キックオフ）
応募後しばらくメールも何も来ないなーと思ってたら唐突にYAPC運営のメーリス飛んできて「これを読んでいるあなたはボランティアスタッフだよ」って感じでした。
7月中に説明会と言う名のキックオフをして、次に合うのは当日でした。メーリスが飛んでくるので、着々と進んでる感を眺めながらワクワクしてました。
前夜祭当日
日吉に到着してすぐさま1000人前後の来場者向けにノベルティをせっせと詰める作業。心を無にしながら伸びない締切にデスマを重ねていました。楽しかったです！
受付を開始してからはスピーカー、個人スポンサー、一般の3種類あるTシャツをひたすら畳む作業。レアなサイズのシャツがなかなか見つからなくてトレジャーハンターみたいな気分でした。楽しかったです！
前夜祭中はメインホールの椅子にチラシ（椅子ポンサー）を張ったり、提灯吊るしたりしてました。
前夜祭が終わったら1日目の打ち上げに軽く HUB へ行って明日に備える感じ。他の参加者も当然のように HUB にいてスゴイことになってた。
1日目
キーノート中に他会場の準備を完了して、あとはタイムキーパーとビデオを気にかけるのと幕間にCMを流すのの繰り返し。他のスタッフと調整して聞きに行きたいセッションもちゃんと行けました。
聞いたセッションはこちら
GitDDLやばい！
きれいなコード書ける学生スゴイなー
マニアックな！
波動拳で拍手が！
Perl でも Heroku でも動くんだ！
安定の moznion 氏
Cookie を 0 click で！？
クイズはほぼ惨敗しました
懇親会は無限に出てくる茶色い食事が旨くてやばかった！
懇親会後は明日の準備も特にないので打ち上げに。 HUB がいっぱいだったのけど飲み会幹事長の執念で居酒屋の10人席の個室に20人あがり込むという暴挙！楽しかったです！
2日目
聞いたセッションはこちら
ISUCON 出ようと決意した！
Perl 6 は互換性がない！？
豪華サポーター陣！
LT中に撤収はあらかた終了し、クロージングが開始するころにはステージ裏で待機。引退宣言に動揺しつつ壇上で恒例のスタッフ集合写真とって玄関で参加者のみなさんをお見送りしました。その後のゴミ・備品出し等はあっという間に終了。
3日連続の打ち上げに行って2次回行って朝帰るコースでした！楽しかったです！
