简介

这是一个利用 Android 无障碍功能 + 悬浮窗 + 大模型的搜题应用

原理就是利用无障碍读取屏幕内容,然后通过悬浮窗来显示答案

众所周知我是一个学渣,所以在搜答案方面颇有成就

大概是在 4 年前,我写了这样一个脚本

GitHub:截图OCR识别后搜索题目获取答案

码云:截图OCR识别后搜索题目获取答案

利用 ADB 对屏幕截图后进行 OCR 识别,然后将识别到的结果用搜索引擎和本地题库进行搜索,然后快速获取答案

前几天,看着我手机里面的李跳跳和 DeepSeek,我突然发现,我可以利用无障碍读取屏幕数据,将读取到的题目发送给 DeepSeek 等大模型进行解答,利用 Android 悬浮窗 来显示答案

说干就干,感觉代码不是特别多,于是就有了这个项目

因为没有做历史记录,提问每次只能问一下,所以这个 APP 就叫问一下了

运行展示

https://www.bilibili.com/video/BV1PrNweHEDX

源码

GitHub:https://github.com/PuZhiweizuishuai/ScanSearch

码云:https://gitee.com/puzhiweizuishuai/ScanSearch

注意:无障碍权限属于敏感权限,请确认软件来源后再安装或者自己编译安装,避免造成损失

技术实现

无障碍

首先到 AndroidManifest.xml 配置无障碍服务

        <!-- 注册无障碍服务 -->
<service android:name=".service.ScreenReaderService"
android:exported="true"
android:permission="android.permission.BIND_ACCESSIBILITY_SERVICE">
<intent-filter>
<action android:name="android.accessibilityservice.AccessibilityService" />
</intent-filter>
<meta-data
android:name="android.accessibilityservice"
android:resource="@xml/accessibility_service_config" />
</service>

创建 app/src/main/res/xml/accessibility_service_config.xml 无障碍配置文件

<?xml version="1.0" encoding="utf-8"?>
<accessibility-service xmlns:android="http://schemas.android.com/apk/res/android"
android:accessibilityEventTypes="typeAllMask"
android:accessibilityFlags="flagDefault"
android:accessibilityFeedbackType="feedbackGeneric"
android:canRetrieveWindowContent="true"
android:notificationTimeout="100" />

编写 无障碍服务代码

package com.buguagaoshu.scan.search.service
import android.accessibilityservice.AccessibilityService
import android.view.accessibility.AccessibilityEvent
import android.view.accessibility.AccessibilityNodeInfo
import com.buguagaoshu.scan.search.config.StaticVariableConfig
import com.buguagaoshu.scan.search.data.ScanSearchData
import kotlin.uuid.ExperimentalUuidApi
import kotlin.uuid.Uuid class ScreenReaderService : AccessibilityService() { // 指定按钮的包名和类名,需要根据实际情况修改
private val targetButtonPackageName = "com.buguagaoshu.scan.search"
private val targetButtonClassName = "androidx.compose.material3.Button"
// 指定按钮的文本内容,需要根据实际情况修改
private val targetButtonText = "读取屏幕" override fun onAccessibilityEvent(event: AccessibilityEvent) {
if (!StaticVariableConfig.openScan) {
return
} if (event.packageName == targetButtonPackageName) {
return
} // 监听滑动事件
if (event.eventType == AccessibilityEvent.TYPE_VIEW_SCROLLED || event.eventType == AccessibilityEvent.TYPE_VIEW_HOVER_ENTER) {
// 判断事件类型是否为点击事件
val source = event.source
// 检查点击的节点是否符合目标按钮的条件
if (source != null) {
// TODO 增加指定包名过滤配置
println(source.packageName)
} // 获取根节点信息
val rootNode = rootInActiveWindow
if (rootNode != null) {
// 清除之前的数据
StaticVariableConfig.screenTextList.clear();
// 遍历节点并读取内容
traverseNodeLoop(rootNode)
}
} } @OptIn(ExperimentalUuidApi::class)
private fun traverseNodeLoop(node: AccessibilityNodeInfo) {
val stack = mutableListOf<AccessibilityNodeInfo>()
stack.add(node) while (stack.isNotEmpty()) {
val currentNode = stack.removeAt(stack.size - 1) // 读取节点的文本内容
val text = currentNode.text
if (text != null && text.isNotEmpty()) {
// 存储数据
StaticVariableConfig.screenTextList.add(
ScanSearchData(Uuid.random().toString(), text.toString())
)
} // 遍历子节点并将它们添加到栈中
for (i in currentNode.childCount - 1 downTo 0) {
val child = currentNode.getChild(i)
if (child != null) {
stack.add(child)
}
}
}
} private fun traverseNode(node: AccessibilityNodeInfo) {
// 读取节点的文本内容
val text = node.text
if (text != null && text.isNotEmpty()) {
println(text)
} // 遍历子节点
for (i in 0 until node.childCount) {
val child = node.getChild(i)
if (child != null) {
traverseNode(child)
}
}
} override fun onInterrupt() {
// 服务中断时的处理
}
}

监控滑动事件,跳过对自身 APP 的监控,将读取到的屏幕数据保存到缓存中,方便后期读取加载

流式响应

因为目前兼容 Open API 的服务都支持流式输出,提升用户体验,避免出现长时间的等待

所以在使用 okhttp 发送请求的时候不能使用 call.execute(),而需要使用 client.newCall(req).enqueue

完整代码实现如下

    fun sendStream(
sendData: SendData,
url: String,
key: String,
onChunkReceived: (String) -> Unit,
onComplete: () -> Unit,
onError: (String) -> Unit
) {
CoroutineScope(Dispatchers.IO).launch {
val body = Json.encodeToString(sendData).toRequestBody(contentType)
// Authorization: Bearer $DASHSCOPE_API_KEY
val req = Request
.Builder()
.url(url)
.post(body)
.addHeader("Authorization", "Bearer $key")
.build()
client.newCall(req).enqueue(object : Callback {
override fun onFailure(call: Call, e: IOException) {
e.message?.let { onError(it) }
} override fun onResponse(call: Call, response: Response) {
response.use {
if (!response.isSuccessful) {
return
}
val reader = response.body.charStream()
reader.forEachLine { line ->
if (line.isNotBlank()) { onChunkReceived(line)
}
}
onComplete()
}
}
})
}
}

其它

UI实现大部分都是通过AI写的,也没有什么要注意的了

使用指南

一、配置无障碍权限与悬浮窗权限

第一次使用会弹出无障碍权限配置菜单

在已下载应用内点击问一下

给予问一下无障碍权限

二、配置 API 服务商

首先你需要配置好你的 AI 服务商,当前你也可以不用配置这个,直接使用悬浮窗内打开网页进行搜索,不过由于 Android Webview 控件我不太会用,显示的效果有问题

由于 DeepSeek 的服务目前用不了,暂时用阿里通义的 API 替代

API申请地址:https://platform.deepseek.com/usage

登陆后点击侧边栏 API keys 生成一个 API_KEY

然后到 APP 内填写你需要调用的大模型名称、 API 地址、和 API-KEY 即可使用

其它可以白嫖的API服务地址

字节火山:https://www.volcengine.com/product/doubao

目前免费送 50 万 TOKE,支持满血 DeepSeek R1 模型

阿里通义:https://www.aliyun.com/minisite/goods?userCode=4i6gwidx

免费送 100 万 TOKEN

三、开始使用

打开悬浮窗后,进入你要搜索的应用

由于只监听了滑动事件,所以进入应用后请先在屏幕上划两下,然后再点击加载数据

这是应该就可以读取到屏幕上显示内容了

将你要搜索的题目进行勾选

点击确定

这样题目就会自动出现再搜索框

️注意:如果需要对题目进行编辑,请先点击打开 ⌨️ 键盘获取焦点,不然无法输入,修改完成后请点击关闭键盘,读取屏幕数据会无法读取到当前屏幕信息

为避免滑动事件冲突,如果需要挪动窗口位置,请先点击右上角的锁,挪动完成后,再点击一下锁就可以再次滑动显示内容

最后点击提问即可获取答案

四、其它功能

点击打开网页可以调用 秘塔AI搜索,不过由于显示界面太小,所以显示会有一些问题

点击最小化按钮可以缩小悬浮窗,这时你可以利用手机系统自带的 AI 功能对屏幕进行识别,获取问题信息

版权

本文首发于:https://www.buguagaoshu.com/archives/wen-yi-xia

转载请注明出处

问一下,利用在线 DeepSeek 等 API 服务实现一个答题 APP的更多相关文章

  1. 利用JNDI的命名与服务功能来满足企业级API对命名与服务的访问

    包含了大量的命名和目录服务,使用通用接口来访问不同种类的服务: 可以同时连接到多个命名或目录服务上: 建立起逻辑关联,允许把名称同Java对象或资源关联起来,而不必知道对象或资源的物理ID. JNDI ...

  2. 利用Vert.x构建简单的API 服务、分布式服务

    目前已经使用Vertx已经一年多了,虽然没有太多的造诣,但也已在项目中推广了下:从最初的vertx搭建web服务,到项目上线运营,还算比较稳定.再到后来尝试搭建基于vertx的分布式服务,一路下来也积 ...

  3. Wami Map Project – 开源的 OSM API 服务

    Wami 地图项目把 OSM 数据分享给所有的人,很容易使用.他们利用 MongoDB 的潜力进行大数据管理来实现从 OSM 数据来源搜索相关的数据.它们的 API 使人们有可能检索不同格式的 POI ...

  4. [AI开发]Python+Tensorflow打造自己的计算机视觉API服务

    "与其停留在概念理论层面,不如动手去实现一个简单demo ."       ——鲁迅 没有源码都是耍流氓github 前言 目前提供AI开发相关API接口的公司有很多,国外如微软. ...

  5. 使用CodeIgniter框架搭建RESTful API服务

    使用CodeIgniter框架搭建RESTful API服务 发表于 2014-07-12   |   分类于 翻译笔记   |   6条评论 在2011年8月的时候,我写了一篇博客<使用Cod ...

  6. 利用PhantomJS搭建Highcharts export服务

    利用PhantomJS搭建Highcharts export服务 一直在使用Highcharts做web图表的展示, 但是当发送定时的报表邮件的遇到了这个问题. 为了保证邮件图表和web页图表样式一致 ...

  7. Spring Boot + Spring Cloud 构建微服务系统(七):API服务网关(Zuul)

    技术背景 前面我们通过Ribbon或Feign实现了微服务之间的调用和负载均衡,那我们的各种微服务又要如何提供给外部应用调用呢. 当然,因为是REST API接口,外部客户端直接调用各个微服务是没有问 ...

  8. .net core实践系列之短信服务-Sikiro.SMS.Api服务的实现

    前言 上篇<.net core实践系列之短信服务-架构设计>介绍了我对短信服务的架构设计,同时针对场景解析了我的设计理念.本篇继续讲解Api服务的实现过程. 源码地址:https://gi ...

  9. API服务网关(Zuul)

    技术背景 前面我们通过Ribbon或Feign实现了微服务之间的调用和负载均衡,那我们的各种微服务又要如何提供给外部应用调用呢. 当然,因为是REST API接口,外部客户端直接调用各个微服务是没有问 ...

  10. Web Api 内部数据思考 和 利用http缓存优化 Api

    在上篇<Web Api 端点设计 与 Oauth>后,接着我们思考Web Api 的内部数据: 其他文章:<API接口安全加强设计方法> 第一  实际使用应该返回怎样的数据 ? ...

随机推荐

  1. Contrastive Learning 对比学习 | RL 学 representation 时的对比学习

    记录一下读的三篇相关文章. 01. Representation Learning with Contrastive Predictive Coding arxiv:https://arxiv.org ...

  2. 二、STM32F103C8T6-定时器

    STM32F103C8T6 定时器概述 STM32F103C8T6 作为一款广泛使用的微控制器,内置多个定时器,能够支持多种计时和控制功能,如精确延时.脉冲宽度调制(PWM).捕获比较(Capture ...

  3. Web实时消息推送的解决方案

    什么是消息推送(push) 推送的场景比较多,比如有人关注我的公众号,这时我就会收到一条推送消息,以此来吸引我点击打开应用. 消息推送(push)通常是指网站的运营工作等人员,通过某种工具对用户当前网 ...

  4. Flex 弹性布局备忘录

    概述 Flex 是 Flexible Box 的缩写,意为"弹性布局",用来为盒状模型提供最大的灵活性 这也是我目前用的最多的一种布局方案,相比Grid布局此种布局方案相对较简单, ...

  5. C/C++源码扫描系列- Joern 篇

    文章首发于 https://xz.aliyun.com/t/9277 概述 和 codeql,Fortify 相比 Joern不需要编译源码即可进行扫描,适用场景和环境搭建方面更加简单. 环境搭建 首 ...

  6. aspirate 工具

    dotnet tool aspirate https://www.nuget.org/packages/aspirate/0.1.40-preview 作为全局工具安装 dotnet tool ins ...

  7. 用 erlang 描述 tcc

    Transaction 视为一个 Actor. start_transaction(Order) -> p1 = spawn(start_order(self, Order.subOrder1) ...

  8. CentOS中升级openssl与卸载重装以及提示:error while loading shared libraries: libssl.so.1.1: cannot open shared obje

    场景 在CentOS6中安装sqlserver时提示: Requires:openssl >=1:1.0.1g 所以需要对openssl进行升级 可以通过 openssl version -a ...

  9. pmml(模型标准化)

    PMML简介PMML全称预言模型标记模型(Predictive Model Markup Language),以XML 为载体呈现数据挖掘模型.PMML 允许您在不同的应用程序之间轻松共享预测分析模型 ...

  10. 阿里云maven仓库地址的配置

    两种配置方式: 1. maven 配置文件配置settings.xml中设置mirror节点 <mirror> <id>nexus-aliyun</id> < ...