解析データが数百GBになって、どう扱えばいいのか迷う。必要なデータを失わずに、研究を進めたい。
研究に必要なデータだと思うと、削除してよいか迷いますよね。
残すデータを分けよう
まず、原本と再生成できる中間ファイルを分け、それぞれの容量と保存先を確かめてみてください。残す必要のあるデータが分かると、どれを削除して、どれを移すか決めやすくなります。
- 原本:測定・収集したデータ。加工後のデータとは分けて残す
- 中間ファイル:原本から作り直せるデータ。作り直すのにかかる時間や、必要な計算機の性能なども確かめておく
- 解析結果:図表や集計値。対応するスクリプト、設定、実行環境の情報と一緒に残す
中間ファイルでも、作り直しに長時間かかるものは、すぐに削除すると研究を進める妨げになります。削除を考えるのは、作り直す方法が分かり、必要な原本とコードが残っているものだけにしておきましょう。
保存先を決めよう
日々の解析に使う場所と、失ったときに戻すための保存先を分けます。同じドライブ内でフォルダを分けても、ドライブの故障に備える別コピーにはなりません。
研究室や大学の保存先について、次の点を確認してください。
- 利用できる容量
- バックアップの有無
- 保存期限
必要な容量があり、保管の条件も合っていれば、新しい機材を買わずに別コピーを残せます。
外付けSSDを使うと、PCとは別の保存先にコピーを置けます。ただし、そこへ移してPC側を削除するとコピーは一つに戻るので、空きを増やすことと、バックアップを残すことは分けて考えてください。
人の情報や持ち出し制限のあるデータは、外部の保存機器や個人向けクラウドへコピーする前に、研究室のルールを確かめてください。指導教員や管理担当者に次の点をそれぞれ確認すると、どう保存するか決められます。
- 保存可能な場所
- 学外への持ち出し
- 修了後の保管先
原本を残してコピーしよう
コピーには、次のソフトが使えます。
- エクスプローラーやFinder:ファイルのコピーに使える
- Windowsのrobocopy:大量のファイルをコピーし、その記録を残したいときに使える
- macOS・Linuxのrsync:大量のファイルをコピーし、転送ログを残したいときに使える
同期先のファイルを削除する設定は、どのように動くか分かってから使ってください。
- 解析ソフトがデータを書き終えたことを確認し、コピーするデータと保存先の空き容量を確かめる
- 元データを残したまま、別の保存先へコピーする。最初から移動や削除はしない
- 転送エラーがないか、ファイル数や容量が合っているかを確認し、重要なファイルは開けるか試す。原本と中身が同じかを調べるには、SHA-256などのチェックサムも使える
- 別コピーを確認してから、削除してよいと判断した中間ファイルを整理する。原本の保存先は残す
容量やファイル数が同じでも、中身の一致まで確認できるわけではありません。チェックサムは内容の一致を調べる方法で、解析ソフトで開けるかの確認とは役割が異なります。
解析を続けやすくしよう
保存先を変えたあとは、解析スクリプトの読み込み先を示すパスも確かめてください。入力データの場所を設定ファイルなど一か所にまとめると、保存先を変えるたびにコードのあちこちを書き換える手間を減らせます。
外部の保存先から直接解析するかは、処理の内容で判断します。読み込み待ちが長い場合は、解析に必要なデータだけを作業用の保存先へコピーし、結果を保管先へ戻す方法があります。
外付けSSDをつないでも、計算自体が速くなるとは限りません。
データやコードが変わったら
最初のコピー後に増えたデータや変更したコードにも、別コピーが必要です。測定が終わったときや解析結果がまとまったときなど、変更分をコピーするタイミングを決めておくと、古いコピーしかない状態を避けやすくなります。
コピー先をつないだまま同期するだけでは、間違えて消したファイルがコピー先でも消えることがあります。保存先に過去の版を残す機能や元に戻す機能があるか確かめ、重要な結果は上書き前の版も戻せる形で残してください。
削除前に原本を守ろう
最初は、原本の別コピーを置ける保存先と空き容量を確かめてみてください。コピーしたデータを開けることまで確認してから、中間ファイルの整理へ進めてください。

Amazon の PC をスコア化してみた
Amazonにある8〜14インチの小型WindowsタブレットやノートPCを、スペック別にスコア化して比較・ランキング。


