自建AI服务器使用PVE配置显卡直通虚拟机安装驱动、CUDA和cuDNN运行LLM大模型进行AI炼丹
随着开源大模型的普及,还有各种大佬开源的程序,AI大模型已经逐渐普及到每个人身边了,很多同学已经可以在本地笔记本上运行大模型了,但是本地笔记本毕竟性能差,而且笔记本还需要干别的活呢,不可能一直运行大模型,我习惯用PVE,所以记录一次我的部署过程,给我未来重复部署留下指南。
共 57 篇文章
随着开源大模型的普及,还有各种大佬开源的程序,AI大模型已经逐渐普及到每个人身边了,很多同学已经可以在本地笔记本上运行大模型了,但是本地笔记本毕竟性能差,而且笔记本还需要干别的活呢,不可能一直运行大模型,我习惯用PVE,所以记录一次我的部署过程,给我未来重复部署留下指南。
有些情况下我们无法使用 apt/yum 管理器安装 MairaDB 数据库,或者我们想为数据库集群安装完全一样的 MairaDB 数据库版本,我这次手动安装的动机就是因为我想组建 MairaDB 数据库集群,并且安装一模一样的数据库版本,方便管理。
目前在 Google Chrome 浏览器强推 HTTPS 以后,现在几乎大部分网站都已经是 HTTPS 协议访问了,你是否听说过 HSTS(HTTP Strict Transport Security) HTTP严格传输安全?让你的网站更安全,加载更快速。
本文将分享我个人在2核2G的 Ubuntu 上对 Nginx 的高并发配置,在其他 Linux 系统上可能不一样,仅供参考。
Cron表达式是什么我想能看到这篇博文的同学已经知道是用来干什么的了,一般我们在Linux、Spring、Quartz中进行定时任务设置的时候需要写Cron表达式来设置任务执行的周期。cron的读音是英 ['krɔ:n]/美 ['krɒn],类似中文克龙的读音。
在12月20日的统信UOS生态大会上,统信软件技术有限公司总经理刘闻欢正式宣布2023年新战略,发布服务器操作系统UOS V20免费使用授权。
你想知道洛杉矶凌晨4点钟的样子吗?用10分钟配置一台位于洛杉矶的免费远程桌面就看到了。利用Amazon全球可用区,甚至可以在世界各地搭建符合你配置需求的远程桌面。
我们在Linux中经常设置文件夹或文件的权限,使用 chmod 777,而后面 777 表示的就是权限,仅仅三个数字就表示了三种角色的三种权限,我们逐个进行解释。
一周前被人不停的刷流量,见《我站近期遭受到恶意不友好访问攻击公告》这篇博文,今天,各个监控在凌晨4点多开始通过APP、钉钉、邮件、短信嗷嗷的报警通知,又受到了一次扫描,不过好在经历过上次被刷流量的事件,我已经有准备好的预防措施了,几乎没有任何损失。
我站于 2022-04-27 22:18:22 开始遭受到来自【中国四川省成都市锦江区】中国电信家庭宽带的不友好恶意访问攻击,现公布出复盘信息请各位网友正常友好的访问我站。