前言 前不久，B站开源了个翻译大模型（Index_Translation)，本着试试看的心态，我在自己电脑上编译了 llama.cpp，并严肃品鉴了这个模型，效果意外的不错。在q4km量化下，2b的模型差点意思，顶多拿来划词翻译，电脑好一点的还好，差一点的感觉还不如我先前用的一个叫kd的翻译工具。但9b的模型确出奇地不错。达到了一个十分可用的水准，能把一篇篇幅不小的英文文章翻译成中文，还能保持信达雅。 核弹坐在我身上，仿佛看到了椅子爆炸。 正好，国庆放假前，我们计算机导论课上。老师留了个小组作业，说是要用ai做一个项目。形式不限。 你说了形式不限是吧？ 写一个本地ai部署脚本何尝不算用ai做项目呢？ 依旧小巧思。 工作流 项目的语言是bash，毕竟我就会这一种脚本语言（Python跟lua能看懂，但要我自己写我写不出来）,而且用我长期使用GNU/Linux作为我的主力操作系统，这个脚本用bash写是怎么写怎么得劲。 llama.cpp有上千个编译选项，一个一个找肯定不现实，ai这是就派上了用场了。在大肥鱼的帮助下，我很快地找到了我能找到针对各类机型的编译选项。 写这个脚本对我来说不是特别大的难事，最难的地方在于把一长串if-else写完发现可以用case写。 我想把我的脚本移植到Windows上，但我不会PowerShell，我用GNU/Linux的时间远比用Windows的长，我用不明白Windows。小组作业说想跑这个脚本还得花功夫折腾wsl也不现实。于是我找到了我的妈妈朋友，让他帮我做 Windows移植。但由于microslop的一些原因，包括但不限于不能在PowerShell上运行脚本，得用cmd曲线救国。我的妈妈一直在c，整一个项目他的代码量占了95%。他还帮我测试了各个编译选项能不能用。 我还安排了个彩蛋。 项目大纲 以我负责的部分为例，我先是展示了个logo，提示了安装所需的依赖，完了把各个设备所需的编译选项列出来，让用户根据自己的设备选择。完了开始编译，编译完了后又提供了几个模型供选择下载（有点像ollama，不过性能要高不少）。最后，为了抑制住千问系模型的thinking，我export了一个别名。 项目主页 GitHub Codeberg 特别鸣谢 我的妈妈：Anchor-kkti

我们学校后面就是大黑山，我们每天上课吃饭回宿舍都能看见大黑山，说不好奇是假的。趁着十一假期的机会，10月1号，我和三五同学一同出发，对眼前的大山发起了挑战。 在南方丘陵长了18年，爬山对我来说是一件再平常不过的事情。但我老家这边山普遍比较低，而且山连绵不断，即使爬上去了，视野很差。同行的有个内蒙人，这辈子没爬过山。 我们原计划是走正门，因为我听说往年我们学校有人因为走野路受伤甚至丧命，我的观点是如果有去过的学长带的话就可以走野路，其他人听说死过人都不敢走野路（byd谁有这个胆）。退一万步讲，我们四个刚来这地方不到一个月，没一个认识路。 但是正门要20块门票，还得打车去，路途还不算近。走野路的话一分钱不用，而且从我们学校北门就直接能去，去的路我们军训拉练时还走过一遍（虽然没上山），更何况北门离我们宿舍不到100米。 安全起见，我们还是选择了去校门口打车。 我们学校算半个郊区，平时打车比登天都难，更何况是节假日，司机们都忙着送学生到车站或机场，没空搭理我们。我们拦住一个出租车大爷，人直接让我们走野路，还说要上山得从观音阁上去。 有大爷给我们指路，加之一时半会打不到车，我们决定铤而走险，而且这天是国庆，有祖国保佑。抱着这种想法，我们绕回了学校北门。一边开着导航一边将信将疑地走过一个个岔路，走了两三百来个台阶（大概），这才到了观音阁，此时我们就已经累得半死了。还好我带了五个馒头，走之前吃了一个。这时吃了一个，这才缓过神来。其他人则是直接把午餐当早餐吃。 观音阁这路挺绕的。直到路旁俩大姐跟我们指了“路”——一条广西式的山路。还说只有年轻人才能走过去，要走一个半钟。 路边有不少梵文标记，虽然看不懂，但起码指明了路。路很陡，但至少还算好走（起码比去观音阁的楼梯好走），而且虫子很少，这搁南方虫子已经爬满身了，也很走运没遇到什么野生动物。我们甚至还嫌无聊一边放歌一边爬。 已经能看到山顶了，但此时已经没有康庄大道（好吧其实也没多大，跟康庄也沾不上边）可走，留下的只有一点植被的缝隙。我以广西人特有的敏锐直觉看出这就是路，于是跟同伴请缨说我先去前面开路，找到路了再回头找他们。 上一次开这种路还是在清明拜山那会，我也算是轻车熟路了。事实证明我是对的，因为我爬上去后看到前面还有一家人。我抓上岩石，翻了上去，四周的景色给我吓了一跳，我马上缩到了边上一块石头。站在这里整个城市一览无余，在这里，还能同时看到渤海和黄海。说真的，我先前爬山从来没有过这样的爽感。 山顶风很大，整的我有点重心不稳，攀在石头上是对的我只能说。兴奋了好一会后，我招呼他们几个上来。前面那一家人的那个小女孩像问傻逼一样问我在叫什么，同时告诉我这还不是主峰，还得继续爬。 叫了好一会才把他们几个叫上来，内蒙小伙艰难翻上来后，大为惊奇：“这给我干哪来了!”，其他人也都感叹这里视野之好。拍了一会照后，我们面临了一个新的问题：接下来该去哪，四周都是植被，唯一能说得上是路的地方，通向的还是所谓野猪林，当然是不是真的有野猪存疑，毕竟我们运气好没碰到，有一点可以确认的是，林子里的刺特别多，我不慎被扎到了一下。 看起来虎哥来过这，爬山虎说是 在野猪林里，我们看到了真正的主峰，不过看起来得先从顶上下到山谷，再爬上来。显然这是荒谬的。彷徨之际，有个大姐从上山的另外一条路爬上来。得知我们也是要上山之后，她很爽快的要我们跟上她。于是，在她的带领下，我们成功找到了山脊上的正路。走了好一段时间两三个脚掌宽的小路后，一条石阶横亘在我们面前，我们找到要花20块才能走到的正路了。不过此时大姐已经没影了。 可能路线被开发商精心设计过，这条在山脊上的正路，从远处看这条路相当壮观，从这条路往外看也十分的壮观，正值十一，路像石崖边上的一串红带子盘在大黑山上，相当雄伟。 石梯路没什么好讲的，顺着石梯往上，我们到达了山顶，同时也看到了我们先前爬上的山峰，比这里低了约莫几十米。我从来没有到过这么高的山（这里海拔大概700米上下）。我爬上了最高的一块石头，看到了几个留学生石头上面拍照。趁着喘气的功夫，我鼓起勇气上去，用蹩脚英语跟他们交流了几句，还向他们发出了拍照邀请，他们很爽快地同意了。我那仨朋友看到也抢着要拍。 ...

前言 在现在这个互联网时代，我们每天都会面临一些令我们十分反感的事，包括但不限于：不合时宜的广告、无处不在的隐私收集、每个软件都变成短视频软件和借贷软件等，我们每天都在被这些软件及其背后的科技巨头强奸着。 但我们还有另外的选择，那就是自由软件。自由软件也叫作开源软件，它们的源代码是公开的，他们的工作方式不是商业机密，我们作为软件用户可以自由地获取、查看并其源代码，自由地分享软件。在这种权利透明的机制下，软件的开发者不敢往软件里塞屎，除非他想被同行揪出来名誉扫地，即使真的塞屎，也大有人修改其源代码并发出更干净的版本供众人使用。作为自由软件用户，我们不需要看懂源代码，因为一个好的自由软件，自有大儒为其辩经。更何况我们不用被各种广告、隐私收集、臃肿功能买单，有能力的话我们还可以定制我们的软件，ai盛行的当下，这件事变得更简单了。 输入法 我们每天都需要输入文字，聊天、发评论、写邮件、输入各种验证码、密码，都离不开输入法。想想，把我们每天输入的各种东西交给一个无法信任的对象，你能放心吗，反正我不能，况且搜狗输入法、微信输入法时常被爆出来不少隐私相关的问题，你想想这合适吗。所以我觉得使用一个自由软件作为输入法是很有必要的。 说点大家想听的，有不少是自由软件的输入法，而且它们做得相当优秀。 手机上，我使用语燕输入法。它支持各种输入方案，包括但不限于语音、手写、笔画、拼音、九键等。 下载链接 如果你的电脑是Windows系统，我的推荐是小狼毫输入法加上雾凇拼音这个词库，这个词库输入体验个人感觉要比商业输入法来的舒服的。你还可以自己导入自己的常用语。 在GNU/Linux系统下，我使用Fcitx5+rime+雾凇拼音的方案。 电脑端的这俩教程应该不少，浏览器或b站搜“小狼毫”、“雾凇拼音”就行了。有空我可能会写个教程（挖坑）。 浏览器 接下来要说的就是浏览器了，作为上网重度用户，我每天都得跟浏览器打交道，但我实在是厌倦了打开浏览器看到的是满屏的资讯，十分恶心。更讽刺的是，加载这些我完全不想看到的狗屎花的流量费还得我自己出，而且花的流量费比我正常看一个网页还要多。这已经够我喝一壶了，更别说我还要考虑隐私问题。 手机的话，我使用fennec这个浏览器，它可以在f-driod（一个提供自由开源软件的应用商店，网上有教程，有空我也会写）下载到。 电脑的话，我推荐vantage这个浏览器，这是由b站up主asys科技开发的。 下载链接 这两个浏览器都是火狐浏览器的分支，由于火狐浏览器默认会有些用户不大喜闻乐见的功能（虽然能关），比如国内压根用不上的ai功能，以及广告、遥测。但因为火狐的软件许可证决定了火狐是自由软件，所以用户可以自由地对火狐浏览器进行修改。于是就有了以上这俩。当然基于火狐的浏览器绝对不止这俩，但我个人觉得这俩好用。 至于搜索引擎的话，我建议用必应而不是百度，必应现在算矮子里挑高个了，但还是凑合能用，百度、搜狗这种人尽皆知的烂我就不赘述了。说点反直觉的，今日头条当搜索引擎莫名的好用。当然如果有条件魔法上网的话个人建议用duckduckgo。实在不行问ai得了。 文本编辑器 作为计算机专业的学生，我我每天少不了跟代码打交道，平时写博客、发邮件、记备忘录也少不了一个称手的文本编辑器，我使用的文本编辑器是Emacs，我对它做了相当多的自定义。 不过如果不是像我这种大学生时间多的话，个人建议还是别用emacs，因为配置它的时间成本很高。 写代码个人建议用vscodium，这是社区构建的vscode，默认关闭了微软的遥测。 都写代码了应该有检索信息的能力了罢，我懒得贴链接了（ 发邮件我推荐用雷鸟，这是下载链接 操作系统 操作系统是所有软件运行的基石，手机的话我建议用LineageOS（只有部分机型支持），电脑则是linux mint公认最适合新手的GNU/Liunx发行版。怎么使用已经超出了这篇博客的讨论范围，这里只是给个方向。 LineageOS安装教程 [linux mint安装及使用教程](https://github.com/SHORiN-KiWATA/Shorin-ArchLinux-Guide/blob/main/wiki/linuxmint/Linuxmint%E5%85%A5%E9%97%A8.md)