物理服务器该怎么玩

Author Avatar
Damon Lee 5月 03, 2020
  • 在其它设备中阅读本文章

2019年,get了Kubernetes,get了Flutter,get了新的workflow……

然后2020就开始了,和大部分来自于码农的Geek一样,我们是不折腾就不舒服的群体。

去年玩的跟硬件搭边的似乎只有基于树莓派4群控大屏和万能遥控器的合体项目,我清楚的记得疫情期间程序猿圈子里各种淘换设备来玩,我自然也是动了心思。思索了许久,感觉家里的HP MicroServer Gen8似乎已经稳定服务2年了,堪称理财产品的它似乎只有最高16G内存这个缺点了。开始本来想来一套华南双路x79来玩玩的,但是转念一想我为何不直接淘个洋垃圾服务器呢,反正都是7x24h运行,服务器怎么都比寨板稳定,又碰上正好有一个大佬在安利HP DL380P G8,其实也是Gen8,不过我现在家里的是微服务器,而这个DL380P是2U的机架式。关于声音的问题可以通过扔阳台来解决。

说干就干,定好了两颗e5 2630l,32G内存(本来想64的,但是REG ECC跟着普通内存一起瞎起哄涨价,只能先买32,后续降价了再买32G),这样基本就满足了我开虚拟机的需求了,下单后第二天到货,疫情期间快递统一小区东门,距离我家走路七八分钟,本来寻思放电动车踏板就能带回家,结果根本放不下,只能让我妈扶着箱子,我推着车带回了家。

然后就开始了折腾之路,跟家里之前的gen8一样,系统装在TF卡(其实gen8是sd卡),在把ODD SATA转成普通SATA接一个2.5寸的硬盘用3M胶粘在电源壳的铁皮上😂,前面板硬盘笼的12个盘位全部放3.5普通硬盘,当然我并没有那么多硬盘😢。硬件基本就这样;接下来是软件,因为之前的Gen8用的是ESXi,所以这次想玩玩Proxmox VE(后面简称PVE),因为现在东西还没到齐,所以先找个内存卡装个ESXi尝尝鲜。

先是老路子去惠普官网下载专用的ESXi的iso,最新的是6.7 U3,安装的时候直接卡死,我以为机器有问题,然后马上换6.7 U2,可以成功,不禁想难道是BIOS版本太旧了,咨询大佬后建议我先装个win server然后升级下服务器的各个固件,至于为啥需要用win升级固件,因为惠普官网都是酱婶的,只有极个别的固件版本支持Linux安装。一顿操作猛如虎的升级固件后,继续安装U3,同一个位置,同样的卡死😂,此时内心已崩溃,睡觉,翌日再战。

第二天新的32G的TF卡到了后,开始折腾PVE,官网下载镜像,写入优盘(写入优盘后跟其他系统不一样,win下会让你格式化,不用理,直接安全退出优盘拔出即可),安装步骤就不赘述了,实在是太简单了,安装完成一次点亮,进入web管理页面开始安装OMV,为啥安装OMV,因为打算12个硬盘位全部直通给OMV,然后通过OMV创建各种文件系统给其他系统使用,想法总是美好的,但是现实总会给你一记重击,重击是什么呢,就是按照PVE官网设置阵列卡直通死活不成功,既然阵列卡不行我就试试网口直通吧,同样的命令,同样的错误,谷歌英文搜索后有国外大佬说是HP的新固件做了限制,要想直通请降回历史版本的固件,但是这个历史版本到底是哪个版本,大佬没写😂,难不成我要每次都装回win,然后换固件,再装PVE,再直通……内心再度崩溃,睡觉,翌日再战。

翌日,就在查资料和折腾的过程中,PVE报了个eof error,猜测是存储配置在SD 卡造成的问题,最终得出结论,PVE不适合安装在TF卡,看来还得换回ESXi,在装完6.7 U2后,突然想到由于我的硬盘有4T有12T有1T更有500G的,这种复杂的搭配不适合组raid,所以需要转换为HBA Mode再直通,在上网找了p420i如何强开HBA Mode后就去尝试直通p420i给OMV,此时,只听到服务器的风扇瞬间飙到满速,几秒钟后自动重启了,再次尝试后问题依旧,谷歌查不到答案,用英文搜索同样查不到,但是却查到了p420i直通后CPU占用100%的问题,CPU占用100%意味着啥,那就是风扇要满速运行,新的固件很可能会自动重启,此路不通,内心再度崩溃,再决定买真正的HBA卡后,睡觉,来日再战。

为了赶紧折腾,特意找了个北京的深水宝店家,报价比其他几家贵50块,很多外地商家还无货,没办法只能加钱了,第二天就到货了,拆开服务器,把p420i的供电拆下来后在PCI槽上插上了新到的HBA卡,开机直通,一切顺利,完美,此时眼泪已在眼睛里打转,内心一直回放着:“我太难了!”。紧接着尝试网口直通,同样完美。此时不知道为啥我非要去惠普官网看看,还偏偏无意间看到了官网更新了ESXi 7.0的镜像,我的天,我刚搞定完直通,你就更新了新的系统镜像,手没忍住点了下载,然后写入优盘,重装系统……这次我就鸡贼了,我换了一张TF卡,如果7.0不好用,我换回之前的6.7的卡就好了,结果7.0装完OMV直通后的磁盘速度还真是比6.7要快,机智的我再一次被自己的机智打败了,因为7.0装在了性能比较差的SD转TF卡,而6.7装在了性能更好的TF卡上,既然7.0使用体验还不错,那就把7.0装在TF上吧,于是拆机,换卡,重启,装系统……此时想要实现的东西都已测试完毕,睡觉,等明天规划好功能在动手。

功能规划和功能实现同样重要的,所以换了一套跟gen8不一样的方案,网络规划是光猫连接iKuai,iKuai直通一个网口作为wan口,二级路由依旧openwrt,用来全局去广告和国外查资料,剩余两个网口直通给openwrt,其中一个连接交换机,然后用爆款小音箱TP link 7650组mesh实现5G WiFi全覆盖(别问我为啥不一步到位上WiFi6的AP,因为没钱啊😂,而且手里也没有WiFi6的设备,而且说实话1300M的无线速率其实已经妥妥够了,等后面万兆交换机和WiFi6普及后再换不晚),最后剩余的一个物理网口用来做ESXi的管理口;功能规划是所有硬盘位直通给OMV,然后OMV通过nfs和Samba共享给NAS和WIN10,其中NAS主要用来PT和电视投影用来观影,WIN10主要用来通过远程桌面来使用百度网盘和迅雷(基本上等同于废物一个了),然后再来一个Ubuntu和Centos用来编译项目和玩耍,其实凑够64G内存后用来组Ceph和k8s一起玩耍也是不错的选择,不过k8s还是留给工作中用吧,生活里需求确实不大。

至于为啥选择OMV,因为之前gen8的硬盘走的是RDM,这种方式虽然可以发挥出硬盘的99%的性能,但是会造成硬盘无法休眠,无法获取硬盘的SMART信息,而真正的直通就可以避免这个问题,至于为啥不直接把硬盘直通给NAS,是因为NAS提供出去的NFS和Samba服务会造成磁盘速度无法跑满,这一点我在矿渣蜗牛星际中也得到了验证。而且OMV支持直接查看硬盘的SMART信息,可以开启休眠,还可以通过插件获得ZFS,好像也可以选择固定的硬盘来组软raid。可能有人说OMV其实就是NAS系统了,为啥还要再弄个NAS系统了,其实主要就是为了手机app可以备份和查看资源,而且服务器确实资源过剩😃,多开一个系统完全无所谓。

以上就是2020开年的All in one的新方案,总结起来就是:洋垃圾虽然便宜,但是没有一定的折腾能力还是谨慎购买,当然折腾完之后就什么都不用管了也是巴适得很。如果父母在家用网的话,最好做个灾备措施,万一服务器出了问题宕机了家里的网络自然会瘫痪,所以我把家里的网件路由器设置成和AP同SSID,一旦服务器宕机断网,父母只要把网件路由器的电源插上,然后光猫的网线接到路由器的wan口即可临时恢复网络。

截止到本文结束,服务器已经丢在阳台稳定运行一个多月,除了吸尘,噪音还能接受,等手头富裕了买个机柜,体验还能提升一个档次。

PS:HP GEN10 Plus已经上线,体积更小,性能更高,同时解决了gen8诟病的风扇声,最高64G内存,家用完全足够,如果资金允许,墙裂推荐购买。