FreeChat项目建立初衷与困难

本文纯手搓不含任何AI智能体介入。我认为这点很重要。关于AI文游我第一次接触应该是在2025年初记得很清楚因为在高三最后一学期的开学前一夜这个时间节点上。经过一个寒假的疯狂游玩开学前一夜注定是一个不平凡的的夜我准备好所有作业势必在今夜一决胜负。可人到深夜总是难免注意力不集中不知不觉刷起了Telegram。一个“角色卡预览”的频道凭空出现在我的列表中我大致浏览后知道这相当于是在已有的各种设定下与AI共同书写故事发展。新用户送500积分我挑了一个感觉还不错的角色卡随机聊了起来可以说当时有些颠覆了我对AI理解与创作能力的认知。并且由于Telegram独特的属性这里的AI并没有政治、色情等限制比其他地方更新奇。于是我聊了一晚上积分不够用甚至充了一百多块钱作业也是一点都没写。但问题很明显AI的逻辑推理能力和记忆力随聊天内容的增长而直线下降到后面几乎每条回复都会与前文冲突。我闭上眼睛养神大多是对作业未完成的担心。后来为了寻求更真实更高级的AI创作或AI文游我了解到ChatBox和TavernSilly一个是模拟对话一个是内容创作其中TavernSilly的上限可以说是所有AI文游当中最高的但依赖Nods.js与本地终端部署圈内好评的同时也造成了进圈的极高门槛。每个角色卡、世界书和正则都需要大量时间去书写每个选项和调试都可能影响回复效果可以说自定义程度极高也有不小的学习成本。我将其成为极致的极客。返还最大众的豆包智能体也形成了庞大的社区体系大家制作的角色卡可以一键上传分享有能学英语的教师、有温柔贤淑的知心姐姐、有肖奈大神教你计算机...但豆包在于多却是在算不上精甚至效果比Telegram还要差一大截角色卡可输入项与设置项少的可怜并且存在严重的OOC角色人设崩坏还原效果微乎其微。所以我不断寻求位于TavernSilly与豆包智能体中间的市场一个既能保留大多数设置项又能保证角色还原效果同时门槛还比较低比较方便便携随时能聊的AI软件。但我从来没有了解过现有商业AI拟人陪伴类产品如猫箱、星野等即使我决定去做FreeChat甚至现在FreeChat即将发布第四个版本更新我都没去了解。因为路不通不为竞争对手它们不是我想要的产品我也永远不会成为它们的用户。我用某个AI类产品首个问题可能就是“接的什么模型”商业产品唯一的盈利方式就是积分制从用户的Token消耗中赚取中间差价模型不公布实际上也不会用什么好模型我推测可能MiniMax或者DeepSeek概率大些没准是某家中转站掺水的也有可能。而FreeChat所走的更像是简化的TavernSilly或ChatBox用户自行接入API Key客户端本地直连大模型。我始终认为所有类似产品均为前端套壳与系统提示词优化其根本决定回复效果的还是大模型的能力所以用户大模型可控则代表着成本透明、隐私安全的同时拟人效果可控。当然FreeChat对比现有安装即用的商业AI拟人陪伴类产品依然有门槛用户需要自己去申请API Key并且本质是需要为服务付费的即使聊个天可能只是几分几毛钱但是似乎大众用户依然不愿意支付。FreeChat的制作有不小的开销而支撑我一个普通大学生省吃俭用买Token Vibe Coding的有三点原因1、我自身需要一个AI拟人聊天类app可以说FreeChat是为我个人打造的、UI符合我的审美的、所有功能都是我想要的一个产品。它开源免费故而不需要产品经理分析市场与用户需求。2、作为计算机系大学生能在大二时期做出一个项目可能会对我未来求职就业有所帮助即使它是Vibe Coding更何况现在还有几个传统程序员不用AI纯手搓代码的呢3、同第二点灵活运用AI辅助完成开发、调试、运维等我认为是未来程序员的重要技能即使花销不俗也是实践学习的一种方式我向来讨厌极具功利性的行为和思想。甚至到现在为了降低用户使用门槛推广使用我在FreeChat安卓客户端内部还内置了我自己的模型API用户安装后无需配置即可使用。我当然知道JavaKotlin是最容易反编译的语言若有人通过反编译工具反编译apk即可轻易的获取我自己的API Key然后疯狂使用导致我的额度被刷爆但我还是选择承担这种风险给用户提供。当然即使一切顺利我也会担心未来用户数量若多了起来我总不能一直自费提供Token而当我一断开API则是否会造成用户的流失呢所以我想大家若想体验不错的AI聊天服务则需要花些时间稍微了解一下API的配置同时看清消费点和费用消耗力度至少商业产品都能挣钱我不盈利所有钱直连模型本身应该是更便宜才对。FreeChat项目有很多难点1Android版本发布后iOS用户怎么用iOS APP的开发依赖MacOS环境我从开发端暂时难以满足。所以我做了Web在线网页而网页直接调用API与AI对话必定需要服务器因为网页无法保存用户数据聊天记录、角色提示词、图片、记忆文件等这些需要存到云端与网页实时连接读取文件我租了服务器并为FreeChat的网页购买了域名当然ICP到现在依然没有过审个人开发者非个体工商户的产品介绍类网页很难过审这也是一个难点。并且做了账号系统去存储并保护所有用户的数据通过服务器实现多不同设备、不同端间的同步。网页版对比客户端依然有功能方面的优化并且依赖服务器和账号即使用户的API Key不会上传至服务器但相对客户端依然有风险。但这已经是我目前能想到的最好的解决方案了。实际上应该也没那个有技术的黑客闲着没事攻击我这没几个用户的服务器窃取信息吧不值当。2仅依赖模型内置数据AI的信息严重落后时事无法跟进获取“联网搜索”如何做要么手搓爬虫脚本面对极高的成本、法律风险和大概率搜到一堆垃圾要么就用模型内置的联网搜索可能会不统一因为这并非所有模型的标配内容还可能存在接口、配置差异而调用失败因为我不知道用户会接什么模型第三个方案就是当前采用的API接口调用已有的现成资源库。一开始是SerpAPI但它对国内访问并不友好导致开启联网搜索后AI回复基本都要几分钟后来有试过Bing、AnySearch等有免费额度但本质还是付费使用的。现在做成模型内置搜索公开网页基本检索自定义API信息源三者结合搜索速度、信息质量、信息全面性、信息时效性都在可接受范围内了。3拟人模式下的角色还原、真人感等挑战我渴望得到比豆包强的AI拟人质量至少在内容理解、回复逻辑、长期记忆、角色还原这四个方面做到能接受的范围即使仅是一个前端套壳无法大幅度提升模型能力但FreeChat还是做了不少优化。引入“回复缓冲”机制避免了在“微信聊天”模式下AI针对用户每条信息都相应回复的一问一答的人机感开启后设定缓冲区将用户的信息先缓存在缓冲区内等待几秒具体市场用户可自行修改后一并发送给模型既减少了API调用和Token消耗又能使AI统一、融合思考给出更拟人化的回复。引入“时间感知”开启后角色与现实时间完全对应并且拥有自己独立的生活与作息更像是活生生的人。引入“增强检索”和“深度推演”前者调用模型最大上下文窗口原文提交模型思考学习后者将Agent工作流搬来在回复前系统性的检查逻辑与记忆是否有误。引入“主动智能”通过后台计时功能定时向模型发送上下文与请求模型自行决定是否主动发消息、消息内容是什么。当然后台计时并不理想很可能因为安卓后台管理机制而被杀导致功能失效此功能目前仅用于测试体验。在未来版本我将寻求更“智能”的解决方案比如云端实时推送等。引入“连接微信”将“微信聊天”模式做到极致通过微信官方OpenClaw插件接入微信所有机制在云端运行回复不依赖本地。引入“生成当前场景图”将当前上下文、人物设定、角色记忆一并交给生图模型根据当前场景生图。将文字具象化提升视觉冲击力。当然拟人模式的优化除此之外还有记忆存储、时间轴感知、AI创造力可控等基础优化都在后台悄无声息的运行以保障角色还原与真人感。4UI页面的渲染与排版优化Vibe Coding我认为这点是最为痛苦的。前期我用的AI Agent是DeepSeekClaude Code如果让其添加某项功能那倒没什么太大问题初版基本就能使用只需要做微调。而如果让它做UI渲染比如卡片的哑光玻璃效果、页面间的切换动画、极具美学的视觉呈现等它就会不知所措尤其是我最初用的deepseek-v4-pro模型没有视觉能力只能根据代码盲猜经过长期的Skill、插件和MCP的探索并且将Agent换成Codexgpt-6/6.1-sol之后才有明显的提升。安卓虚拟机、ADB调试反复测试UI渲染和动画效果多次返工和修改走来实在不易。FreeChat的优势在哪儿其实我上文已经说了定位于门槛低于TavernSilly、ChatBox和现阶段商用产品之间。我主要说对比现阶段商用产品吧因为极客仍然是少数即使有了FreeChat我依然会使用TavernSilly和ChatBox这并不冲突。FreeChat拥有标准模式可以视作普通AI进行信息搜索、科普问答、数学计算、文档生成与图像生成等。FreeChat的模型由用户自行配置模型可控意味着成本透明、AI性能可控、本地模式下用户数据安全。还有一条最容易被忽视也是我认为最重要的一条FreeChat作为免费开源项目不商用不盈利无广告所有出发点均是打造更好的体验而非赚取更多的利润这是FreeChat与市面商用产品的本质差别。当然作为开源软件我也希望能有更多共创者、提出建议者无团队仅一人可以直接和我沟通交友。至此我与AI文游的认识与熟悉、FreeChat整个建项原因和制作过程都已分享。开源项目并不求多少Star当然还是越多越好也不在多少用户本质还是为我个人深度定制的app。若能因此交友、获取成就都是额外收获。人所经历均有意抛开绝对的目的感受生活的每个角角落落即使是花钱打水漂、打游戏、刷视频。永远相信美好的事情即将发生