大牌AI可能会成为所有头条新闻，但是在幕后发生了另一场革命。AI聊天机器人正在缓慢但肯定地移到智能手机上 - 不连接到云，而是在设备本身上本地和私人运行。最近，我花了一些时间为Android测试了三个新的免费AI聊天应用程序，以找出它们是否值得安装。
此举到移动设备的驱动程序是功能强大的开源AI型号的崛起和上升像骆驼3.2，现在可以接近大型模型的性能，但占地面积要小得多。
这些应用程序仍然是早期的，但是据我所知，这将真正改变我们将来访问信息的方式。我的测试揭示了三个出人意料的聊天机器人。我的Android手机的微薄资源更为显着。他们对他们的使用方式感到震惊。
1。本地AI
该聊天机器人对将AI添加到电话中有有趣的看法。该应用程序没有提供复杂的设置和安装，而是提供了AI设置的有限选择，这使新移民非常容易理解。安装快速简便，用户必须做出的唯一决定是使用代表使用的AI的快速，平衡或高精度设置。
权衡显然是速度与复杂性的，但是要说的一件事是，这个想法似乎很好。例如，快速设置非常快。它不如chatgpt，但是当您认为这是在记忆最少的智能手机处理器的片段上运行时，屏幕上的响应迅速出现了，这简直就是一个奇迹。
UI易于使用，只有一个聊天框和响应屏幕，一个很棒的功能是您可以按下麦克风图标并与模型交谈，而不必费心地输入您的请求。唯一的缺点是长期新闻复制糊剂函数以获取AI响应文本似乎被打破了。希望开发人员很快就会解决。
2。私人AI
Private AI通过提供配置选项来采用更传统的方法，以便用户可以根据其需求量身定制应用程序。这包括在手机上下载广泛的开源模型，例如Mistral，Gemma，Phi，Tinyllama等。
但是，请注意，如果您有标准的规格智能手机，则不想下载大小1到3 GB的任何型号。除此之外，情况确实非常缓慢。
模型大小与速度方程是这些应用程序的常数约束。事实是当前的智能手机，除了非常高的型号外，还不是为处理AI而设计的。结果是，即使使用诸如Gemma 2的微型型号，大多数响应也会很慢。我在三星Galaxy S20上对其进行了测试，即使以适度的1.9千兆字节的大小，它仍然很慢。
该应用程序还缺乏基本的设施，例如从历史记录中删除过去的聊天，与此测试中的其他应用程序相比，相对原始。
3。口袋
最大的惊喜之一是好的这个免费的Android应用程序是。使其与众不同的是，它似乎比其他聊天机器人更好地优化开源模型。我能够将Llama 3.2 3B加载到该应用程序中，并从中获得出色的性能，比其他产品更好。这是两个千兆字节大小的型号，无论在台式机PC还是移动设备上，它的大小都在上课上最好的型号之一。因此，快速速度是一个令人惊讶的奖励。
像私人AI一样，PocketPal还提供了许多用户自定义选项，以根据您的特定需求调整它。这包括不同的缓存设置，还使用Flash注意力进行更快的处理。
我特别喜欢的一个功能是能够分别向每个模型添加不同的系统提示。我以为我很开心，并把我的模特设置为像伦敦的科克尼一样讲话，这很有趣。
总而言之，我发现PocketPal目前是Android平台上最成熟的应用程序，在电话上提供了很好的AI聊天机器人体验。
这些应用程序中有更多的应用程序每个月都可以访问Android和Apple手机，因此，随着技术的成熟，这个领域显然具有稳固的未来。