2017-01-01から1年間の記事一覧

MySQL5.6から5.7にしたときに発生するエラー

SQL

djangoでMySQLを使ってやっていると、5.6から5.7に移行する必要があった。 group byの使用方法で問題があるらしい。 this is incompatible with sql_mode=only_full_group_by" 以下でMysqlのバージョンを調査して、テーブルを確認。 mysql > select version(…

ApacheのアクセスログからURLを作成する方法。

xargsの使い方を学ぶ cut -d " " -f 7 access_log |xargs -I{} echo "http://[ドメイン名]{}" | grep -v "http://[ドメイン名]{}" | head -10000 > accesslog.txt qiita.com

AtomのCaskで管理する方法とパッケージ一覧を見る方法

AtomをCaskで管理する方法。 ## Homebrewをinstall $ /usr/bin/ruby -e "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/master/install)" ## HomebrewCaskをセットアップ $ brew tap caskroom/cask ## Atomをインストール $ brew cask i…

SQLを複数起動する

SQL

my.cnfを何個か持てばその分SQLを違うソケットにたてられる。 MySQL :: MySQL 5.6 リファレンスマニュアル :: 5.3.3 Unix 上での複数の MySQL インスタンスの実行 tweeeety.hateblo.jp

SQLのInsert INTOの方法

SQL

How to write flexible INSERT and UPDATE statements in MySQL · Baron Schwartz's Blog

tarのコマンドについて

tarの -vはverboseの略で、展開したファイル一覧を表示したりする。 qiita.com qiita.com

yumとrpmと違い

MeCabがインストールするときにrpmを使った。 よくわかんない。 $ tar jxvf juman-7.01.tar.bz2 $ cd juman-7.01/ $ ./configure --prefix=/usr/local $ make # make install nzigen.com hayashikun.hatenablog.com blog.inouetakuya.info qiita.com qiita.c…

Solr4のcoreの削除

Solr4のcoreの削除を行う。 curl 'http://localhost:8983/solr/admin/cores?action=UNLOAD&deleteIndex=true&core=[core名]' CoreAdmin - Solr Wiki

SolrのJoinについて確認せな...

Solrの使い方で、SQLみたいにcoreをcoreにjonできるっぽい。 あとで見てみる。 Other Parsers - Apache Solr Reference Guide - Apache Software Foundation

load data infileをパイプから流し込む

課題 load dataは、STDINを入力にできるから、一時ファイル書き出しを省略して、subprocessで起動したload dataプロセスのSTDINにレコードを流し込んでinsert 上の、load dataのパターンそれぞれで、1万レコード単位で、PKでソートしつつインサートPK 解答 c…

gitリポジトリはgitoliteをごちょごちょすることでできる

Git

gitサーバに新しくプロジェクトを追加するのはこうするってのを知った。 ## gitolite-adminをpullする。 $ git clone ssh://git@[hostname]/gitolite-admin ## conf/gitolite.confを編集する $ vim conf/gitolite.conf repo gitolite-admin RW+ = username r…

git pushやgit pullをtrackingする(git branch --set-upstream-to=...)

Git

git pushやgit pullをtrackingする方法。 $ git pull There is no tracking information for the current branch. Please specify which branch you want to merge with. See git-pull(1) for details. git pull <remote> <branch> If you wish to set tracking information </branch></remote>…

SolrにPostするcurlの内容メモ

手動だとこんな感じ $ curl http://localhost:8983/solr/[core名]/update -H "Content-Type: text/xml" --data-binary @./xxxxx.xml <response> <lst name="responseHeader"><int name="status">0</int><int name="QTime">10264</int></lst> </response> $ curl http://localhost:8983/solr/[…

MySQL5.7が立ち上がらないエラーが出た。

SQL

mysqlが立ち上がらないエラーが出た。 #service mysql start Job for mysql.service failed because the control process exited with error code. See "systemctl status mysql.service" and "journalctl -xe" for details. #systemctl status mysql.servic…

Python3の四捨五入

Pythonの四捨五入は思った挙動をしないことがある。多分、丸め込みが原因。 In [1]: round(2.5, 0) Out[1]: 2.0 In [2]: round(2.0, 0) Out[2]: 2.0 In [3]: round(3.5, 0) Out[3]: 4.0 四捨五入はDecimalを使用したほうがいい。 from decimal import Decima…

cookieについて

HttpOnlyがtrueの場合、そのcookieはクライアントサイドでjavascriptによる取得ができない。 行動履歴ログをタグ埋め込みで取得する際は要注意。 qiita.com

AWS(Red Hat)にpython3.6をインストールしてpipやvirtualenvを作成する方法。

2020/02 追記 ↓が楽 add-apt-repository ppa:deadsnakes/ppa apt-get update apt-get install python3.6 python3.6-venv -y askubuntu.com python3.6をインストール。 ##いるものをインストール。 $ sudo yum install yum-utils make wget $ sudo yum instal…

CentOS7とかにPython3.6.1をinstallする方法

この方法だと /usr/local/bin配下にインストールしてくれる。 tecadmin.net https://stackoverflow.com/questions/38913502/how-do-i-install-a-python-package-to-usr-local-bin unix.stackexchange.com

hostnameというよりプロンプトを変える方法(AWS)

bashのプロンプトを変更するには qiita.com

AWSにアカウント追加するときに苦労したこと

AWSに自分のアカウントを追加するときにやったこと。 www.task-notes.com qiita.com

SQLでテーブルを大量削除する方法

SQLで_tmp_を含むテーブルを大量に削除する方法を教えてもらったので、メモする。 echo 'show tables;' | mysql -uroot [db名] | grep '_tmp_' > list for x in `cat list`;do echo "drop table $x;" ;done > drop.sql cat drop.sql cat drop.sql | mysql -u…

where句で"OR"を使いたい場合(index)

SQL

MySQLで"OR"を用いる時のインデックスがわからない。 結局、UNIONでがっちゃんこするしかなさそう。 mysql> SELECT COUNT(*) FROM table WHERE columnA = value1 OR columnB = value2; +----------+ | COUNT(*) | +----------+ | 1616 | +----------+ 1 row …

git tagのいろいろについて

Git

git tagを使う。 git flow release start rev20170620_1 git flow release finish rev20170620_1 git push --tags git tag premaster_`date +%Y%m%d`_rev1 git tag | grep premaster_ # git tagで見れる。 qiita.com buchi.hatenablog.com

AWSのサーバにSFTP通信を行う。

AWSのインスタンスのセキュリティグループからどのIPアドレスを弾いているか確認している。 AWSにSFTPで接続するサーバを管理するために見たが、SFTPコマンドって受送信できるんだっけということで確認した。 ちなみに、公開鍵の登録も必要。 webkaru.net セ…

インフラエンジニアがよく使うコマンド

インフラエンジニアがよく使うコマンドをまとめたページ。 貼っておいて後読もう。 qiita.com ps axuww # プロセス確認 free -h # メモリ使用率の確認 df -h # ディスク使用率の確認 df -i # i-node確認 top -d1 # 実行中のプロセス確認 sar # CPU使用率の確…

grepとかawkとかsortとかuniqueとか(niceも)

アクセスログのファイルに「/content」含まれないばあいにのIPアドレスだけ出力して、 ソートした後に集約して件数出して、その件数でソート(降順)して上位10件を出す。 にたいして、処理が重いので優先順位を下げる。 知らないコマンドとgrepの知らないオ…

classにタグを埋め込んでクリック数を分析するのはGTMってのでやるらしい。

HTMLのclass属性に何かしら値をいれて、クリック数を計測する方法がある。 www.trass.co.jp

行動履歴の取得方法について

行動履歴のログ取得、つまり、アクセスの解析には以下のやり方があるらしい。 ‘'アクセス解析ツールの測定方式は時代とともに変遷してきた。まず、一番古くからあるのが、Webサーバーのログを解析する「サーバーログ取得型」だ。それから、HTMLファイルにJav…

scikit-learnとかいうライブラリ(機械学習)

pythonのSVMにはこれを使うらしい。 qiita.com

データベースのテーブル数算出とSolrグルーピングの仕様について

データベースのテーブル数算出する。 mysql> select count(*) from `information_schema`.`tables` where `table_schema` = 'database名'; +----------+ | count(*) | +----------+ | 34 | +----------+ 1 row in set (0.00 sec) teratail.com また、Solrに…