如何评价 Google Colab 提供的免费 GPU？

坐标美国，PhD穷苦学生党，2年前开始使用Colab（免费用户），2020年9月起升级到了Colab Pro用户好几个月了。也是Google Drive的付费用户（200GB）。（奈何实验室死活不采购新的GPU）。

Colab Pro4月之前很容易约到Tesla V100 （16GB），但是，目前可能由于显卡短缺的原因，不容易预约到Tesla V100，经常是Tesla P100 （16GB），而且有时候不能多开3个GPU窗口了。训练网络时候，Tesla V100速度是P100的近3倍。

我自己上周买了个RTX 3060 的电脑，训练transformer模型时候，速度是Colab Pro P100 GPU的1.5倍。虽然RTX 3060和Tesla P100的cores都是3584个，但是RTX 3060快了不少，应该是里面的架构不一样。代码源： Keras documentation: Image Classification with Vision Transformer 。

Colab Pro的优势：

1. 之前最多开了4个页面；
2. 可能分到Tesla V100，即便是Tesla P100，一个月9.99美金也值；
3. 可以连接Google Drive，Google Drive里可以先存数据集，再解压到Colab的Content下；
4. 所有的写的代码都在Google Drive里保存着，如果在自己电脑上可能时间长会乱；
5. 所有模型可以自动保存到Google Drive里；
6. 常用的包不用自己安装；
7. 内存从免费的12GB增加到了25.5GB；
8. Colab Pro用户还可以开terminal。

Colab Pro的劣势:

1. 最长时间是24小时断1次；
2. 如果网络不好，可能会频繁断开。目前网上有解决方案；
3. 数据集比较大时候（>10GB），下载到Colab的Content里可能比较慢，但刚试了从Google Drive解压2.2 GB的图片文件到colab需要不到30秒时间；
4. 分配的RAM可能不足，显示的是25.5GB，可能实际远低于这个内存。

今后我还会RTX 3060和 Colab Pro一起用（甚至多开几个Colab Pro用户），毕竟每个用户9.99美金1个月不贵，多开几个程序相当于同一时间多完成了很多网络的训练，这钱花的值。

只希望，Colab Pro多弄点Tesla V100，并且一次训练的时间延长下，比如2天。

有人私聊我问采购显卡事情，若是学生党，如果要采购GPU训练深度学习模型，30系列中性能最好的是RTX 3090，性价比最高的RTX 3060，如果没多少钱，建议入手RTX 3060，深度学习最重要的是显卡的显存，其次才是速度，显存不够的话，稍微大的模型都训练不了，显存够时，即便速度慢些多花点时间也能完成任务。当初买RTX 3060时候看重的是12GB显存，在30系列中仅次于RTX 3090，比神卡RTX 2080 Ti的11GB显存还多1GB。11 GB的显存可以在不用调过小的batch size训练YOLO V5最大的模型yolov5x： ultralytics/yolov5 。YOLO V5 是最新的物体识别的项目。假如以后感觉RTX 3060在显存和速度上跟不上，可以等显卡降价时候再并联1个RTX 3060显卡，这样也不贵。至于RTX 3090，目前美国是3000刀左右，土豪随便，非土豪还是500刀收个RTX 3060，若等RTX 3090降价才购买显卡，那顶会不发了吗？1篇顶会1作的价值超过了显卡的钱，即便是RTX 3090。

更新：RTX 3060使用了2个星期，真得太香了，24小时不间断训练模型，采集了很多模型，实验室远程开会时候直接当场选模型做预测。至于传言说锁算力，是指锁了挖矿的哈希，不是锁深度学习的算力，别被那些挖矿人造谣骗了。比特币这玩意跟赌博没区别，纯属投机和洗钱性质，导致需要显卡去工作或娱乐的人买不到正常价格的显卡，还浪费电力，对生产力毫无提升可言，使得社会滋生了不劳而获心理。央行封杀比特币实在是大快人心，现在新的显卡也在封杀比特币。请大家一起祝比特币早日完全完蛋，祝比特币早日完全完蛋，祝比特币早日完全完蛋，阿弥陀佛，阿门。