技术向

前言 前不久，B站开源了个翻译大模型（Index_Translation)，本着试试看的心态，我在自己电脑上编译了 llama.cpp，并严肃品鉴了这个模型，效果意外的不错。在q4km量化下，2b的模型差点意思，顶多拿来划词翻译，电脑好一点的还好，差一点的感觉还不如我先前用的一个叫kd的翻译工具。但9b的模型确出奇地不错。达到了一个十分可用的水准，能把一篇篇幅不小的英文文章翻译成中文，还能保持信达雅。 核弹坐在我身上，仿佛看到了椅子爆炸。 正好，国庆放假前，我们计算机导论课上。老师留了个小组作业，说是要用ai做一个项目。形式不限。 你说了形式不限是吧？ 写一个本地ai部署脚本何尝不算用ai做项目呢？ 依旧小巧思。 工作流 项目的语言是bash，毕竟我就会这一种脚本语言（Python跟lua能看懂，但要我自己写我写不出来）,而且用我长期使用GNU/Linux作为我的主力操作系统，这个脚本用bash写是怎么写怎么得劲。 llama.cpp有上千个编译选项，一个一个找肯定不现实，ai这是就派上了用场了。在大肥鱼的帮助下，我很快地找到了我能找到针对各类机型的编译选项。 写这个脚本对我来说不是特别大的难事，最难的地方在于把一长串if-else写完发现可以用case写。 我想把我的脚本移植到Windows上，但我不会PowerShell，我用GNU/Linux的时间远比用Windows的长，我用不明白Windows。小组作业说想跑这个脚本还得花功夫折腾wsl也不现实。于是我找到了我的妈妈朋友，让他帮我做 Windows移植。但由于microslop的一些原因，包括但不限于不能在PowerShell上运行脚本，得用cmd曲线救国。我的妈妈一直在c，整一个项目他的代码量占了95%。他还帮我测试了各个编译选项能不能用。 我还安排了个彩蛋。 项目大纲 以我负责的部分为例，我先是展示了个logo，提示了安装所需的依赖，完了把各个设备所需的编译选项列出来，让用户根据自己的设备选择。完了开始编译，编译完了后又提供了几个模型供选择下载（有点像ollama，不过性能要高不少）。最后，为了抑制住千问系模型的thinking，我export了一个别名。 项目主页 GitHub Codeberg 特别鸣谢 我的妈妈：Anchor-kkti

前言 在现在这个互联网时代，我们每天都会面临一些令我们十分反感的事，包括但不限于：不合时宜的广告、无处不在的隐私收集、每个软件都变成短视频软件和借贷软件等，我们每天都在被这些软件及其背后的科技巨头强奸着。 但我们还有另外的选择，那就是自由软件。自由软件也叫作开源软件，它们的源代码是公开的，他们的工作方式不是商业机密，我们作为软件用户可以自由地获取、查看并其源代码，自由地分享软件。在这种权利透明的机制下，软件的开发者不敢往软件里塞屎，除非他想被同行揪出来名誉扫地，即使真的塞屎，也大有人修改其源代码并发出更干净的版本供众人使用。作为自由软件用户，我们不需要看懂源代码，因为一个好的自由软件，自有大儒为其辩经。更何况我们不用被各种广告、隐私收集、臃肿功能买单，有能力的话我们还可以定制我们的软件，ai盛行的当下，这件事变得更简单了。 输入法 我们每天都需要输入文字，聊天、发评论、写邮件、输入各种验证码、密码，都离不开输入法。想想，把我们每天输入的各种东西交给一个无法信任的对象，你能放心吗，反正我不能，况且搜狗输入法、微信输入法时常被爆出来不少隐私相关的问题，你想想这合适吗。所以我觉得使用一个自由软件作为输入法是很有必要的。 说点大家想听的，有不少是自由软件的输入法，而且它们做得相当优秀。 手机上，我使用语燕输入法。它支持各种输入方案，包括但不限于语音、手写、笔画、拼音、九键等。 下载链接 如果你的电脑是Windows系统，我的推荐是小狼毫输入法加上雾凇拼音这个词库，这个词库输入体验个人感觉要比商业输入法来的舒服的。你还可以自己导入自己的常用语。 在GNU/Linux系统下，我使用Fcitx5+rime+雾凇拼音的方案。 电脑端的这俩教程应该不少，浏览器或b站搜“小狼毫”、“雾凇拼音”就行了。有空我可能会写个教程（挖坑）。 浏览器 接下来要说的就是浏览器了，作为上网重度用户，我每天都得跟浏览器打交道，但我实在是厌倦了打开浏览器看到的是满屏的资讯，十分恶心。更讽刺的是，加载这些我完全不想看到的狗屎花的流量费还得我自己出，而且花的流量费比我正常看一个网页还要多。这已经够我喝一壶了，更别说我还要考虑隐私问题。 手机的话，我使用fennec这个浏览器，它可以在f-driod（一个提供自由开源软件的应用商店，网上有教程，有空我也会写）下载到。 电脑的话，我推荐vantage这个浏览器，这是由b站up主asys科技开发的。 下载链接 这两个浏览器都是火狐浏览器的分支，由于火狐浏览器默认会有些用户不大喜闻乐见的功能（虽然能关），比如国内压根用不上的ai功能，以及广告、遥测。但因为火狐的软件许可证决定了火狐是自由软件，所以用户可以自由地对火狐浏览器进行修改。于是就有了以上这俩。当然基于火狐的浏览器绝对不止这俩，但我个人觉得这俩好用。 至于搜索引擎的话，我建议用必应而不是百度，必应现在算矮子里挑高个了，但还是凑合能用，百度、搜狗这种人尽皆知的烂我就不赘述了。说点反直觉的，今日头条当搜索引擎莫名的好用。当然如果有条件魔法上网的话个人建议用duckduckgo。实在不行问ai得了。 文本编辑器 作为计算机专业的学生，我我每天少不了跟代码打交道，平时写博客、发邮件、记备忘录也少不了一个称手的文本编辑器，我使用的文本编辑器是Emacs，我对它做了相当多的自定义。 不过如果不是像我这种大学生时间多的话，个人建议还是别用emacs，因为配置它的时间成本很高。 写代码个人建议用vscodium，这是社区构建的vscode，默认关闭了微软的遥测。 都写代码了应该有检索信息的能力了罢，我懒得贴链接了（ 发邮件我推荐用雷鸟，这是下载链接 操作系统 操作系统是所有软件运行的基石，手机的话我建议用LineageOS（只有部分机型支持），电脑则是linux mint公认最适合新手的GNU/Liunx发行版。怎么使用已经超出了这篇博客的讨论范围，这里只是给个方向。 LineageOS安装教程 [linux mint安装及使用教程](https://github.com/SHORiN-KiWATA/Shorin-ArchLinux-Guide/blob/main/wiki/linuxmint/Linuxmint%E5%85%A5%E9%97%A8.md)