做了两个 OpenAI 应用的经历 - Experience after doing two OpenAI applications
在去年的12月初，我在刷 Twitter 的时候看到了许多关于问答截图的推文，通过这些截图了解了 ChatGPT。相比于其他的人工智能助手，比如小爱同学和微软小冰等，ChatGPT显得更加有用多了。因此我对它产生了兴趣，想试试看，并且实际使用效果也非常出色。
油猴脚本：搜索结果旁显示 ChatGPT 回答
在这一两天，我在 Twitter 上频繁看到有关 ChatGPT for Google 这款浏览器扩展的帖子。我尝试使用了一下，发现它的功能并不复杂，并且我认为它在搜索的结果中顺便加入了 ChatGPT 的回答的想法很不错。
之前听韩骏老师在 「vol.323 编码人声：从零到一构建属于你的技术影响力」这期播客中讲过的一种获取灵感的方式——把同样的需求在新平台再做一遍。一方面这个需求已经被验证过，另一方面有个榜样摆在面前，目标很明确。
经过简单的思考，我选择了油猴脚本来实现这样一个需求。
从零开始，边查边写，差不多熬了一个夜就将油猴脚本发布出来了。由于页面样式几乎完全照搬浏览器扩展，所以我只需要解决网络请求部分就可以了。在这个过程中我第一次认识到 SSE（Server-sent events），第一次知道了 text/event-stream 这种响应类型。最后，在走了很多弯路后参考 bigonion 的方法 解决了无法逐字输出的问题。按理说我是在文档中看到的，但是却错过了，我真是太菜了。
随后就是修复各种 bug 和添加小的新功能。有两个朋友提交了 PR，这也是我第一次处理陌生人给我提交的 PR，挺有意思的。
现在回顾起来，这个油猴脚本还挺多人下载的。作为一个小透明，可以获得这些用户使用，如果没有 ChatGPT 这波热度，是难以想象的。
在整个项目开发过程中，很遗憾我没有主动得更加深入地了解 OpenAI 和 ChatGPT。只是根据接口的请求字段，知道了有多种不同的模型，而 ChatGPT 使用的是 text-davinci-002-render。
应用网站：聊天内容简化器
2023 年 1 月底，看到大圣老师发布了一款帮助写邮件的网站，同样是调用的 OpenAI。然后发现他其实是从一个生成 Twitter Bio 的项目修改而来。心中就默默记了下来。
2 月 1 日，在 B 站无意间刷到一个使用 Notion AI 总结聊天内容的视频。受到 UP 主立青老师的启发，我想我也可以用 OpenAI 干这件事。
这次，我就更是站在巨人的肩膀上，花了两个小时改改 Prompt、制作新 Logo，就发布上线了。
在后面的反馈过程中，让我知道了 Prompt 的重要性。当然也有很好的仓库分享。
这个网站使用的模型是 text-davinci-003，它需要付费，会持续性的消耗 18 美元的抵用金，而我每建一个帐号，我都需要花一笔钱。
准备弃坑
弃坑油猴脚本项目的理由：
体验上，在搜索引擎场景，我不想等待结果慢慢打印出来
技术上，IP 问题或速率限制难以解决，我调试起来十分费劲
弃坑总结聊天内容网站的理由：
体验上，不方便，特别是从微信上复制聊天记录，太麻烦
经济上，摘要这种应用场景，Prompt 通常特别长，导致平均每次请求的 Token 都特别长，以致花费比其他应用更多。在没有赞助的前提下，注定难以长久
另外，这两个项目因为都不能算完全原创，并且感觉自己实在是没有什么贡献。所以我一开始没有大张旗鼓得去宣传，只是在相关的位置简单的介绍一下，让少量的人能够进入过来使用。特别是对于第二个有成本的项目，在没有盈利点的情况下，更是不会花更多力气在宣传上。所以抱着这样的心态，弃坑是自然的啦。
被推特大V倪爽老师推荐
之前，因为自己的 Twitter 关注人数特别少，所以我上面这两个应用做完都会在推特社区「创造工程师」发布，以此来获得一些初始用户。
在我发布这篇短文（2月3日）之后的几天，倪爽老师可能是在社区看到了我的推文，也成为了我的用户。没想到的是，2月6日（星期一）的一大早倪爽老师发布了一长串推荐的推文，导致瞬间用户就「排山倒海」的就涌了进来。导致我每小时都要换一次 Key（当时还没有想到一次设置多个Key的feature），快到换 Key 的时候就很焦虑，生怕新进来的用户使用的时候key消耗完了。好在后面宝玉老师提醒可以用text-chat-davinci-002-20221122 （过了两天才失效）模型来替代，算是让我能够睡安稳觉了。最终，那一天就收获了一万用户。
体验上的天花板
就像 Reorx 说的那样，这个应用「缺少 integration ，使用上的不便使其节省时间的价值大打折扣」。它实在是太局限了，很难有所发展。从每天下降的用户数量就能看到，很少用户在尝鲜后会想着再次来使用。
也该放下了。
展望未来
近期遇到问题，我都会去 ChatGPT 上问问，很多问题都能得到解决。一些用于填充画面的图片，我也使用 DALL·E 2 进行生成。比如这个 og 图：
随着人工智能技术的不断发展，越来越多的工作可以通过 AI 来解决。如果能够熟练地运用这些工具并巧妙地将它们进行排列组合，那么我们肯定能够更加高效地解决问题。这样的技能和能力在未来将会变得非常有用，并且带来许多商业机会。可以想象，未来可能会涌现出像 GPT 或 Prompts 工程师这样的新职业。