众所周知,本地运行 LLMs 需要下载模型(体积大),并且还比较吃硬件配置。近日 GitHub 推出了 GitHub Models 服务,让开发者可以在 GitHub 上免费测试 Llama、Phi 3、Mistral 和 GPT-4o 等大模型。但是,目前该服务仍处于公测阶段,类似早期的 Copilot,并未完全开放。需要先提交申请(waitlist)等待审核通过后才可以使用。

虽然我还没有获得公测资格,但目测该服务应该是每天提供一定量的免费在线体验 LLMs 的次数(Playground),然后再加上云开发 Codespaces 和 Azure 服务收费。我和大家都一样,最关心的还是免费的用起来爽不爽!

回到本周的开源热搜项目,既然不能完全免费使用,不妨试试用 torchchat 在手机上运行 LLMs 聊天应用,实现随时随地、不限量地与 LLMs 聊天。还有类似 Shazam 的歌曲识别服务 seek-tune,轻松发现和下载熟悉旋律的歌曲。基于语音识别技术破解 reCAPTCHA 验证码的浏览器插件 buster,用技术打败技术。

最后,用 Rust 实现的轻量级的 LDAP 服务和直观比较两个 PDF 文件的工具,体验极简应用带来的高效与便捷。

  • 本文目录

    • 1. 开源新闻

      • 1.1 GitHub Models 在线免费测试 LLMs
    • 2. 开源热搜项目
      • 2.1 随时随地与 LLMs 聊天的 Python 库:torchchat
      • 2.2 开源的恶意流量检测平台:Maltrail
      • 2.3 破解 reCAPTCHA 验证码的浏览器插件:buster
      • 2.4 轻量级的 LDAP 实现:lldap
      • 2.5 类似 Shazam 的歌曲识别算法:seek-tune
    • 3. HelloGitHub 热评
      • 3.1 直观比较两个 PDF 文件的工具:diff-pdf
      • 3.2 在 Mac 上运行 iOS 游戏和应用的工具:PlayCover
    • 4. 结尾

1. 开源新闻

1.1 GitHub Models 在线免费测试 LLMs

GitHub Models 提供了一个在线体验大型语言模型(LLMs)的聊天应用服务(Playground),用户可以在这里在线体验、测试和运行 LLMs。此外,它还打通了 Codespaces,集成了云运行和开发 LLMs 的功能,降低了大模型开发的门槛,目前仅支持 Llama、Phi 3、Mistral 和 GPT-4o 等大模型,暂不支持上传自定义模型。

2. 开源热搜项目

2.1 随时随地与 LLMs 聊天的 Python 库:torchchat

主语言:PythonStar:2.4k周增长:2k

该项目是由 PyTorch 团队开源的 Python 库,旨在简化大型语言模型 (LLMs) 的运行,轻松在桌面、服务器、iOS 和 Android 等平台上运行 LLMs 聊天应用。用户可以直接通过命令行与大模型交互,或启动 WebUI 在浏览器中使用。此外,基于 ExecuTorch 生成的 PTE 文件,它还能生成适用于移动设备的 LLMs 聊天应用,支持 Llama 3.1、Llama 3 和 Mistral 等大模型。

GitHub 地址→github.com/pytorch/torchchat

2.2 开源的恶意流量检测平台:Maltrail

主语言:PythonStar:6.1k周增长:100

这是一个用 Python 开发的恶意流量检测系统,主要用于识别和追踪可疑的网络请求。它利用公开的黑名单和自定义的列表进行实时流量监控,并提供了一个简单的 Web 界面,用于展示报告和分析结果,支持检测域名、URL、IP 或 HTTP User-Agent 等可疑信息,以及启发式分析功能可发现新型或未知的威胁。

GitHub 地址→github.com/stamparm/maltrail

2.3 破解 reCAPTCHA 验证码的浏览器插件:buster

主语言:JavaScriptStar:7.4k周增长:200

该项目利用语言识别技术,帮助用户自动通过 reCAPTCHA 验证码认证的浏览器插件,支持 Chrome、Edge 和 Firefox 浏览器。

GitHub 地址→github.com/dessant/buster

2.4 轻量级的 LDAP 实现:lldap

主语言:RustStar:4k周增长:100

该项目用 Rust 语言实现了一个轻量级的 LDAP(轻量级目录访问协议)服务,旨在简化用户身份验证和管理。它具有配置简单、占用资源少、友好的 Web 界面等特点,支持重置密码和 Docker 部署,默认使用 SQLite 数据库,同时兼容 MySQL 和 PostgreSQL 等数据库。

GitHub 地址→github.com/lldap/lldap

2.5 类似 Shazam 的歌曲识别算法:seek-tune

主语言:GoStar:1.3k周增长:1.1k

该项目用 Go 语言实现了类似 Shazam 的歌曲识别算法,并提供了简单易用的 Web 服务。它利用音频指纹技术,能够识别用户播放的音乐,并集成了 Spotify 和 YouTube,可以一键发现并下载音乐。

GitHub 地址→github.com/cgzirim/seek-tune

3. HelloGitHub 热评

在本章节中,我们将分享本周 HelloGitHub 网站上的热门开源项目,欢迎与我们分享你上手这些开源项目后的使用体验。

3.1 直观比较两个 PDF 文件的工具:diff-pdf

主语言:C++

这是一款用 C++ 编写的 PDF 文件比较工具。它支持两种查看方式,可以将文件内容的差异输出到一个新的 PDF 文件,或直接在 GUI 中查看。

项目详情→hellogithub.com/repository/398f817f245e404b8ae7ad8ab7e80420

3.2 在 Mac 上运行 iOS 游戏和应用的工具:PlayCover

主语言:Swift

该项目是专为 Apple Silicon Mac 设备(M 系列芯片)设计,用于运行 iOS 应用和游戏的工具。它通过模拟 iPad 环境和键盘映射功能,让用户可以在 Mac 电脑上玩 iOS 游戏,需自行下载 IPA 文件,适用于 macOS 12.0 或更高版本。

项目详情→hellogithub.com/repository/2bb52cdd3e5b42df9cb171a00f66863a

4. 结尾

以上就是本期「GitHub 热点速览」的全部内容,希望你能够在这里找到自己感兴趣的开源项目,如果你有其他好玩、有趣的 GitHub 开源项目想要分享,欢迎来 HelloGitHub 与我们交流和讨论。

往期回顾

随时随地与 LLMs 聊天的开源项目「GitHub 热点速览」的更多相关文章

  1. 朋友圈那串神秘字符背后的开源项目「GitHub 热点速览」

    ​如果你这周没刷到类似 "npub1sg6plzptd64u62a878hep2kev88swjh3tw00gjsfl8f237..." 的一串字符,那就说明本期 GitHub T ...

  2. 如何让程序更健壮「GitHub 热点速览」

    对于 ML 模型训练而言,好的数据集能让结果更健壮,cleanlab 是一个降低数据噪音,及时帮你修正数据集错误的工具.好的工具能让你的结果更完美.同样的,RedTeam-Tools 提高了渗透测试的 ...

  3. 真·生产力「GitHub 热点速览」

    这些工具真的能极大提高生产力,节约你的时间来自(摸)我(鱼)增(划)值(水).先别提 style2paints,你给它随意画个草图,就能给你一个能交付给甲方爸爸的成品插画.如果提升 30%-40% 传 ...

  4. 开源不到 48 小时获 35k star 的推荐算法「GitHub 热点速览」

    本周的热点除了 GPT 各类衍生品之外,还多了一个被马斯克预告过.在愚人节开源出来的推特推荐算法,开源不到 2 天就有了 35k+ 的 star,有意思的是,除了推荐算法本身之外,阅读源码的工程师们甚 ...

  5. 你的梦想家居「GitHub 热点速览」

    上周推荐的 ChatGPT 版小爱,不知道有哪些小伙伴回去尝试接入了呢?本周依旧由 2 个不错的 ChatGPT 延伸项目,一个是比 DeepL.Grammarly 更懂你的划词翻译 openai-t ...

  6. AI 能多强「GitHub 热点速览」

    不知道 AI 在你那边是什么样的具象,在我这就是各种搞图:从给线稿图上色,到直接给你生成一张小色图,AI 最近是真出风头,本周热点速览也收录了 2 个 AI 项目,也和图像有关.还有一个和 AI 相关 ...

  7. 穷人版生产力工具,好用得飞起 「GitHub 热点速览」

    被 GPT 和 OpenAI 刷屏了一个多月,现在 GitHub Trending 已经没有什么和 gpt 无关的项目了,但是好在总有优秀的开源项目拯救我的项目疲惫.像是贴心好用的反向代理 pgrok ...

  8. Python 霸榜的一周,又有什么新 AI 力作呢?「GitHub 热点速览」

    GPT 带火了一波语言模型,LLaMA 和 Alpaca 也在持续发力.依旧是各类 GPT 后缀霸榜 GitHub trending 的一周,为此特推部分专门收录了两个比较不错的 GPT 应用.而作为 ...

  9. 碉堡!“万物皆可分”标记模型上线「GitHub 热点速览」

    这周有个让人眼前一亮的图像识别模型 segment-anything,它能精细地框出所有可见物体,它标记出的物体边界线清晰可见.如此出色的模型,自然获得了不少人的赞赏,开源没几天,就拿下了 18k+ ...

  10. 一款能“干掉” ChatGPT 的应用「GitHub 热点速览」

    据说有了它,ChatGPT 就可以靠边站了.因为 Auto-GPT 能更加主动地完成你给他的指定任务,不用做更多的人为干涉,它的推理能力比 ChatGPT 更强,有人用它解放双手做了个 React 网 ...

随机推荐

  1. 使用腾讯元宝+markmap生成思维导图

    AI可以帮助我们进行提炼和总结, 节省了大量搜索资料和查阅的时间,像上图这张思维导图,就是使用腾讯元宝大模型进行内容提炼,再使用markmap生成思维导图,下面讲解下详细实现步骤: 一.工具准备 腾讯 ...

  2. output打印ElasticSearch搜索条件searchSourceBuilder对象 toString方法

    打印搜索条件:log.info(searchSourceBuilder.toString());log.info("es搜索条件:[{}]", searchSourceBuilde ...

  3. elasticSearch RangeQuery范围查询from to的理解

    elasticSearch RangeQuery范围查询from to的理解 Elasticsearch Guide 选择版本号来查询对应的文档内容:https://www.elastic.co/gu ...

  4. rabbitMq消息没收到排查

    rabbitMq消息没收到排查 首先看是否本地机器开了服务,或者测试环境里面其他的个人电脑本地服务启动注册了,都监听了同一个队列,导致队列消息被接走了.现象是在测试环境期望的执行没有运行.或者关注服务 ...

  5. gitlab角色与权限

    用户在项目中的角色 Guest:访客.可以创建issue.发表评论,不能读写版本库.(就是看不了代码-) Reporter:Git项目测试人员.可以克隆代码,不能提交.QA.PM可以赋予这个权限. D ...

  6. .net core SM2加密+PKCS8实现

    前阵子在对接银行接口,对方给出的加密方式是SM2,在网上找了不少教程,都是使用Portable.BouncyCastle实现的,功能实现后发现对方给出的密钥格式是PKCS8,下面代码记录一下PKCS8 ...

  7. 【Playwright+Python】手把手带你写一个自动化测试脚本

    ​ 如何使用代理方式打开网页 在 playwright.chromium.launch() 中传入 proxy 参数即可,示例代码如下: 1.同步写法: 1 from playwright.sync_ ...

  8. fseek在 fopen 带有'a'模式下不起作用

    关于 fseek 在 追加写模式的注意事项 结论:fseek在 fopen 带有'a'模式的文件指针偏移不起作用. int main(int argc, char *argv[]) { FILE * ...

  9. uboot 修改代码 增加 环境变量

    --- title: uboot修改代码增加环境变量 date: 2019-12-27 21:26:39 categories: tags: - uboot --- 以"tftp下载kern ...

  10. 网易数帆内核团队:memory cgroup 泄漏问题的分析与解决

    memory cgroup 泄露是 K8s(Kubernetes) 集群中普遍存在的问题,轻则导致节点内存资源紧张,重则导致节点无响应只能重启服务器恢复:大多数的开发人员会采用定期 drop cach ...