ここ数回の記事で『言語処理 100 本ノック』の第 8 章、ロジスティック回帰による極性分析の問題に取り組みましたが、正則化無しでも交差検定での正解率があまり変わらないという結果が得られました*1。今回は、このことについて詳細に調べてみます。 データ…
『言語処理 100 本ノック』に PHP で挑戦しています。今回は、第 8 章の残りの問題を解いていきます。 www.cl.ecei.tohoku.ac.jp 78. 5分割交差検定 76-77の実験では，学習に用いた事例を評価にも用いたため，正当な評価とは言えない．すなわち，分類器が訓…
『言語処理 100 本ノック』に PHP で挑戦しています。第 8 章の問題 73 から解いていきます。 www.cl.ecei.tohoku.ac.jp 73. 学習 72で抽出した素性を用いて，ロジスティック回帰モデルを学習せよ． ロジスティック回帰は、教師ありの分類問題に適用できるア…
『言語処理 100 本ノック』に PHP で挑戦しています。昨年の 9 月に第 5 章を終えたところで間隔が空いてしまいました。第 6 章と第 7 章は飛ばして、今回から第 8 章に取り組みます。今回の記事では、機械学習の前処理に相当する問題 72 まで進めます。 www…
PHP の geospatial 拡張モジュール*1を利用して、緯度と経度で表された二地点間の距離を計算してみます。 github.comまず、拡張モジュールを取得してビルドします。通常の手順どおり phpize を利用してビルドできます*2。私の手元では、PHP 5.3.29, PHP 5.6.…
12 月 11 日に開催された「第七回 闇PHP勉強会」に参加しました。私の発表内容は前回の記事で紹介済みですが、皆さんの発表も大変興味深く、とても楽しい勉強会でした。会場はピクシブ株式会社さんでした。はじめてお邪魔したのですが開放的で自由な雰囲気の…
12 月 11 日に開催された 第七回闇 PHP 勉強会 に参加して、現在開発が進められている PHP の JIT コンパイラについて発表しました。 JIT のコードを読んでみた from y-uti www.slideshare.netおおまかな流れとしては、OPcache に処理を追加することで各関数…
PHP から CaboCha を利用できるように、拡張モジュールを作成しています。 github.com一般的な PHP 拡張モジュールと同様に、次の手順でインストールできます。ただし、現時点では PHP 7 専用です。 $ git clone https://github.com/y-uti/php-cabocha.git $…
『言語処理 100 本ノック』に PHP で挑戦しています。今回は問題 48 と問題 49 を解いて第 5 章を終えます。 www.cl.ecei.tohoku.ac.jp 48. 名詞から根へのパスの抽出 文中のすべての名詞を含む文節に対し，その文節から構文木の根に至るパスを抽出せよ．た…
『言語処理 100 本ノック』に PHP で挑戦しています。今回は問題 46 から進めていきます。 www.cl.ecei.tohoku.ac.jp 46. 動詞の格フレーム情報の抽出 45のプログラムを改変し，述語と格パターンに続けて項（述語に係っている文節そのもの）をタブ区切り形式…
『言語処理 100 本ノック』に PHP で挑戦しています。今回は問題 45 を解きます。MeCab の解析結果に含まれる「読み」の情報を利用して辞書順に整列する実装も試してみました。 www.cl.ecei.tohoku.ac.jp 45. 動詞の格パターンの抽出 今回用いている文章をコ…
先日、Task Spooler というツールを知り*1、少し試してみたところ便利そうだったので、勤め先の社内勉強会で紹介しました。発表資料を公開します。 Task Spooler を試した from y-uti www.slideshare.netTask Spooler は、簡易ジョブ管理システムのようなツ…
『言語処理 100 本ノック』に PHP で挑戦しています。今回は第 5 章の問題 44 を解きます。 www.cl.ecei.tohoku.ac.jp 44. 係り受け木の可視化 与えられた文の係り受け木を有向グラフとして可視化せよ．可視化には，係り受け木をDOT言語に変換し，Graphvizを…
『言語処理 100 本ノック』に PHP で挑戦しています。前回は、第 5 章で利用するデータを CaboCha で処理するところまで進めました。今回は第 5 章の問題を解いていきます。 www.cl.ecei.tohoku.ac.jp 40. 係り受け解析結果の読み込み（形態素） 形態素を表…
『言語処理 100 本ノック』に PHP で挑戦しています。今回から第五章に入ります。 www.cl.ecei.tohoku.ac.jp 準備 夏目漱石の小説『吾輩は猫である』の文章（neko.txt）をCaboChaを使って係り受け解析し，その結果をneko.txt.cabochaというファイルに保存せ…
PHP の開発者向けメーリングリストに、JIT の開発を始めたという投稿がありました。PHP 8.0 への搭載を目標として開発を進めるそうです。 php.internals: JIT for PHP projectそこで、投稿に書かれているベンチマークテストを私の環境*1でも実行してみました…
『言語処理 100 本ノック』に PHP で挑戦しています。今回は第 4 章の残りの問題を解きます。 www.cl.ecei.tohoku.ac.jp 37. 頻度上位10語 出現頻度が高い10語とその出現頻度をグラフ（例えば棒グラフなど）で表示せよ．
『言語処理 100 本ノック』に PHP で挑戦しています。前回は、MeCab を導入して形態素解析の結果を読み込む関数を実装しました。今回は、この関数を利用して問題 31 以降を解いていきます。 www.cl.ecei.tohoku.ac.jp[2016-08-19 追記] 各問題の実行結果を追…
『言語処理 100 本ノック』に PHP で挑戦しています。前回までで第一章を終えましたが、少し飛ばして今回は第四章を進めます。 www.cl.ecei.tohoku.ac.jp 準備 夏目漱石の小説『吾輩は猫である』の文章（neko.txt）をMeCabを使って形態素解析し，その結果をn…
8/6 (土) に開催された「オフラインリアルタイムどう書く E06」というイベントに参加しました。与えられた問題を解くプログラムを 1 時間の制限時間内で実装し、各自が実装したコードを発表するというイベントです。問題と各参加者の実装へのリンク集は、そ…
MeCab の解析結果からラティスを作成するスクリプトを書いてみました。N-best 解を集計して Graphviz の dot ファイルを出力するものです。 github.com以下のように実行すると、MeCab での解析結果が png 形式の画像ファイルとして出力されます。実行には Me…
『言語処理 100 本ノック』に PHP で挑戦しています。今回は問題 06 から第一章の残りを解いていきます。前回の記事で解いた問題 05 では n-gram という概念が登場しましたが、今回の問題には言語処理特有の話題はなく、いずれも単純なプログラミングの問題…
『言語処理 100 本ノック』に PHP で挑戦しています。今回は問題 05 を解きます。 www.cl.ecei.tohoku.ac.jp 05. n-gram 与えられたシーケンス（文字列やリストなど）からn-gramを作る関数を作成せよ．この関数を用い，"I am an NLPer"という文から単語bi-gr…
東北大学の乾・岡崎研究室のウェブサイトで、『言語処理 100 本ノック』という問題集が公開されています。実践的なプログラミングの課題に取り組みながら自然言語処理の知識を習得できる、全 100 問の問題集です。 www.cl.ecei.tohoku.ac.jpプログラミング言…
第 103 回 PHP 勉強会で、表題のツールを用いて複数の PHP のバージョンを共存させる方法について発表しました*1。 anyenv + phpenv + php-build が便利すぎる件 from y-uti www.slideshare.net以前は、anyenv がインストールする phpenv には多少の手直しが…
1 月から 3 月にかけて Coursera の機械学習コースを受講しましたが、毎週の課題として提出したプログラムの中で、MATLAB の bsxfun 関数を利用する機会が何度かありました。bsxfun 関数を利用すると、ある種の処理をループに頼らず効率的に記述できます。今…
PHP の RFC として提案された "var" deprecation について、第 102 回 PHP 勉強会 の懇親会 LT で発表しました。発表資料を公開します*1。 RFC: "var" Deprecation from y-uti www.slideshare.net"var" というキーワードは、PHP 4 でクラスのプロパティ定義…
5/21 (土) に開催された、PHP カンファレンス福岡 2016 に参加しました。4 月の PHP カンファレンス北海道に続いての参加になります。今年は、この後も 7/16 (土) に大阪、11/3 (木・祝) に東京で開催予定ですが、北海道でスタンプラリーの台紙を受け取った…
勤め先の社内勉強会で、PHP 7 で新たに導入された機能について紹介しました。発表資料を公開します。前半では PHP 7.0 で導入された機能について、後半では PHP 7.1 で導入されることになる機能について、それぞれ構文の拡張にあたる内容を中心にピックアッ…
Andrew Ng 先生による Coursera の機械学習コースを受講しました。受講期間は 1/25 から 4/17 でしたが、少しずつ前倒しして進めた結果、3/20 に終えることができました。 www.coursera.org機械学習の基本的なアルゴリズムをざっと学べる内容で、数学的に平…
