2019-01-01から1年間の記事一覧

マハラビノス距離URLメモ

https://qiita.com/shopetan/items/ceb7744facc21c3881d2 https://qiita.com/shopetan/items/30f6e0932485c976a946 http://blog.brainpad.co.jp/entry/2018/02/19/150000

vim で文字列検索するとき

/ 文字列で検索できる Gで最終行移動 ggで先頭行移動 http://motw.mods.jp/Vim/command.html

オンプレノートPCでdocker コンテナにログインするときにAWS認証情報を入れてコンテナからAWSにアクセスできるようにするコマンドメモ

docker run -it --env AWS_ACCESS_KEY_ID=[AWS_ACCESS_KEY_ID] --env AWS_SECRET_ACCESS_KEY=[AWS_SECRET_ACCESS_KEY] イメージ名

AWS batch でGPU(nvidia-docker) の使用について

通常のawsbatchで実行されるインスタンスでは、nvidia-docker コマンドで起動せず、docker コマンドで使用するAMIとなっている。 Nvidia-dockerでコマンドでコンテナを起動するAMIを作成する必要がある。 手順は下記に書かれている https://docs.aws.amazon.…

docker コンテナ 複数削除 コマンド

docker rm コンテナID でコンテナを削除できる 一括で削除する場合は docekr rm `docker ps -a -q` ちなみにimageの削除は docker rmi イメージID

環境変数について

現在通っているpathの場所を見るときは echo $PATH で確認できる。 環境変数は下記の順で起動時に読み込まれる 1. /etc/profile2. ~/.bash_profile 上のファイルがなければ 2-1. ~/.bash_login 2-2. ~/.profile3. ~/.bashrc4. /etc/bashrc5. bash実行 [Linux…

tensorflowがインストールできなかったときに調べたことメモ

結論はpython3.7ではtensorflowは動かない(3月15日現在:(自分のパソコンの状況による?))のでpython3.6.8を再インストールすれば動いた。 エラーは ImportError: libcublas.so.10.0: 〜 とでていた。python3.7環境でインストールされたtensorflow…

ubutnu18.04LTSでnvidia driver をインストール

ubuntu16.04環境でメモリの増設を行っていたところ、再起動をかけたらまさかのログインループにおちいてしまった。18.04環境にアップデートをしたらもしかしたらいけるかもと思ったがログインループはかわらず。。2日間くらいかけてなんとかnvidia-dri…

複数ファイルをaws cli でデータをEC2にダウンロード

①awscliのインストール docs.aws.amazon.com ②IAMロールをEC2に割り当て ③コマンド aws s3 cp s3://test_bucket/test/ ./folder --recursive qiita.com

Docker勉強メモ

ドットインストールの教材 https://dotinstall.com/lessons/basic_docker

docker ファイルコピー

qiita.com

fb detectronを動かす

本投稿は記事投稿時点のgithub最新バージョンでの動かしたときのメモです。 detectronはインスタンセグメンテーションのツールです。 インスタンスセグメンテーションは画像から複数のオブジェクトをピクセル単位で認識するものです。(セマンティックセグメ…

nvidia-docker でコンテナ内にログインして実行するときのメモ

nvidia-docker run -it コンテナID /bin/bash

ログインループメモ

forums.ubuntulinux.jp qiita.com

pandasでファイル読み込み時に型指定

データを読み込む際に、pandasではデフォルトでfloat64 かint64で読み込むようになっているので、メモリの使用量が増大する。 そのため型を指定して、読み込むとよい 例 pd.read_csv(ファイル名,dtype{'列名1' : int16 ' , '列名2' : 'int32','列名3':'floa…

アンサンブル学習について

大きく分けて2パターン ・バギング 復元抽出でモデルを複数個構築して、平均化する ・ブースティング モデルを逐次更新していく手法 参考 www.youtube.com

github 入門おすすめ

今さら聞けない!GitHubの使い方【超初心者向け】 | TechAcademyマガジン

nohup で処理させたものを途中で終了させる方法

ps x でPIDを見てkill PID

AWS関係についてメモ

Amazon Athena S3内の複数ファイルをSQLを使ってjoinすることができる Quick Sight 可視化用ソフト spice:容量を決めるインメモリ (月約3000円:見るのみの人のライセンスは10円くらい) Sagemaker Ground Trues トレーニングデータセット構築のためのツー…

メモリのリークを避ける方法

del 変数名; gc.collect 使わない変数をdelし、その後にgc.collectを呼び出す

jupyter notebook 上でセルの実行時間を計る方法

%%time をセルの先頭に記入

pandas indexの名を変更するときのメモ

df=read_csv(~) で読み込んだcsvを df.index=df.index.rename('変更したい名前')

拡張子なしのファイル名取得

filename,ext=os.path.splitext( os.path.basename('./2018/data.csv')) 参考 os.path.basenameは拡張子も含むファイル名

pandas 時系列読み込みメモ

index_col で日時の列をindexに指定し、parse_dateでdatetimeindexとして読み込む df=pd.read_csv(file,engine='python',encoding='SHiFT-JIS',parse_dates=["日時"],index_col="日時") #parse_datesで日時として読み込む