 | |  |  | 元宝截图B站验证码示例测试
- // AIWROK 自动化流程:截图B站验证码 → 启动元宝 → 发送截图询问拖动距离 → 采集回答 → 切回B站拖动滑块
- // 包名:com.tencent.hunyuan.app.chat(元宝)
- //
- // 使用说明:
- // 1. 在B站验证码页面运行脚本
- // 2. 脚本自动截图并发送给元宝识别
- // 3. 解析元宝返回的拖动距离,切回B站拖动滑块
- print.log("===== 元宝识别验证码拖动B站流程启动 =====");
- print.time();
- // ========== 配置区 ==========
- var 元宝包名 = "com.tencent.hunyuan.app.chat";
- var B站包名 = "tv.danmaku.bili";
- var 截图保存路径 = "/sdcard/验证码截图.png";
- var 等待回答超时秒 = 20;
- var 回答输出等待秒 = 5;
- var 滑块校准系数 = 1.0;
- var 提问话术 = "请帮我分析这张图片,告诉我左边的方块需要向右移动多少像素才能和右边的缺口对齐,只输出数字";
- // ========== 获取设备信息 ==========
- var 屏幕宽 = screen.getScreenWidth();
- var 屏幕高 = screen.getScreenHeight();
- var 验证码滑块距离 = null;
- print.log("屏幕尺寸:" + 屏幕宽 + " x " + 屏幕高);
- print.log("代理状态:" + (agent.isOpen() ? "已开启" : "未开启"));
- // ========== 工具函数 ==========
- function 获取UI() {
- var xml = agent.getXml();
- return "" + xml;
- }
- function 字符串长度(s) {
- var str = "" + s;
- return str.length;
- }
- function 解码HTML实体(s) {
- var str = "" + s;
- str = str.replace(/
- /g, "\n");
- str = str.replace(/
- /g, "\r");
- str = str.replace(/ /g, "\t");
- str = str.replace(/'/g, "'");
- str = str.replace(/"/g, '"');
- str = str.replace(/"/g, '"');
- str = str.replace(/'/g, "'");
- str = str.replace(/&/g, "&");
- str = str.replace(/</g, "<");
- str = str.replace(/>/g, ">");
- return str;
- }
- function 采集AI回答列表(xml) {
- var xmlStr = "" + xml;
- var 回答列表 = [];
- var messageLinearlayoutPattern = /<node[^>]*?resource-id="[^"]*?message_linearlayout"[^>]*?bounds="\[(\d+),(\d+)\]\[(\d+),(\d+)\]"/g;
- var lineMatch;
-
- while ((lineMatch = messageLinearlayoutPattern.exec(xmlStr)) !== null) {
- var lineStart = lineMatch.index;
- var lineEnd = xmlStr.indexOf('/node>', lineStart);
- if (lineEnd === -1) lineEnd = xmlStr.length;
- var lineContent = xmlStr.substring(lineStart, lineEnd);
-
- if (lineContent.indexOf('chats_message_dtmp_answer_container') !== -1) {
- var textViewPattern = /<node[^>]*?text="([^"]+)"[^>]*?class="android\.widget\.TextView"[^>]*?\/?>/g;
- var tvMatch;
- while ((tvMatch = textViewPattern.exec(lineContent)) !== null) {
- if (tvMatch[1] && 字符串长度(tvMatch[1]) > 1) {
- var 原始文本 = tvMatch[1];
- var 解码文本 = 解码HTML实体(原始文本);
- if (!回答列表.includes(解码文本)) {
- 回答列表.push(解码文本);
- print.log("✓ 在回答容器中找到文本: '" + 解码文本 + "'");
- }
- }
- }
- }
- }
-
- if (回答列表.length === 0) {
- print.log("⚠ 未找到AI回答节点");
- } else {
- print.log("✓ 采集到" + 回答列表.length + "条AI回答");
- }
- return 回答列表;
- }
- function 获取当前最后AI回答(xml) {
- var 回答列表 = 采集AI回答列表(xml);
- if (回答列表.length === 0) return "";
- return 回答列表[回答列表.length - 1];
- }
- function 全屏截图(保存路径) {
- try {
- var result = agent.shell("screencap -p " + 保存路径);
- print.log("✓ 截图命令执行:" + result);
-
- var lsResult = agent.shell("ls -la " + 保存路径);
- print.log("✓ 截图文件检查:" + lsResult);
-
- return true;
- } catch (e) {
- print.log("⚠ 截图失败:" + e.message);
- return false;
- }
- }
- function 查找输入框中心(xml) {
- var xmlStr = "" + xml;
-
- var inputIdx = xmlStr.indexOf('edConversationInput');
- if (inputIdx === -1) {
- inputIdx = xmlStr.indexOf('text="发消息或按住说话..."');
- }
- if (inputIdx === -1) {
- inputIdx = xmlStr.indexOf('class="android.widget.EditText"');
- }
-
- if (inputIdx !== -1) {
- var 段 = xmlStr.substring(inputIdx);
- var m = 段.match(/bounds="\[(\d+),(\d+)\]\[(\d+),(\d+)\]"/);
- if (m) {
- var x1 = parseInt(m[1]);
- var y1 = parseInt(m[2]);
- var x2 = parseInt(m[3]);
- var y2 = parseInt(m[4]);
- print.log("✓ 输入框定位:bounds=[" + x1 + "," + y1 + "][" + x2 + "," + y2 + "]");
- return {
- x: (x1 + x2) / 2,
- y: (y1 + y2) / 2
- };
- }
- }
- print.log("⚠ 未找到输入框,使用兜底坐标");
- return {
- x: 屏幕宽 * 0.4,
- y: 屏幕高 * 0.92
- };
- }
- function 查找加号按钮(xml) {
- var xmlStr = "" + xml;
-
- var plusIdx = xmlStr.indexOf('flConversationInputPlus');
- if (plusIdx !== -1) {
- var 段 = xmlStr.substring(plusIdx);
- var m = 段.match(/bounds="\[(\d+),(\d+)\]\[(\d+),(\d+)\]"/);
- if (m) {
- var x = (parseInt(m[1]) + parseInt(m[3])) / 2;
- var y = (parseInt(m[2]) + parseInt(m[4])) / 2;
- print.log("✓ 加号按钮定位:flConversationInputPlus,坐标(" + Math.round(x) + "," + Math.round(y) + ")");
- return { x: x, y: y };
- }
- }
- var cvPlusIdx = xmlStr.indexOf('cv_chat_input_plus');
- if (cvPlusIdx !== -1) {
- var 段2 = xmlStr.substring(cvPlusIdx);
- var m2 = 段2.match(/bounds="\[(\d+),(\d+)\]\[(\d+),(\d+)\]"/);
- if (m2) {
- var x = (parseInt(m2[1]) + parseInt(m2[3])) / 2;
- var y = (parseInt(m2[2]) + parseInt(m2[4])) / 2;
- print.log("✓ 加号按钮定位:cv_chat_input_plus,坐标(" + Math.round(x) + "," + Math.round(y) + ")");
- return { x: x, y: y };
- }
- }
- var 输入框 = 查找输入框中心(xml);
- if (输入框) {
- var 预估X = 屏幕宽 * 0.92;
- var 预估Y = 输入框.y;
- print.log("⚠ 未找到加号按钮,使用输入框右侧兜底坐标(" + Math.round(预估X) + "," + Math.round(预估Y) + ")");
- return { x: 预估X, y: 预估Y };
- }
- print.log("⚠ 加号按钮使用屏幕右侧底部兜底坐标");
- return {
- x: 屏幕宽 * 0.92,
- y: 屏幕高 * 0.92
- };
- }
- function 粘贴文本(文本) {
- try {
- Clipboard.copy("" + 文本);
- } catch (e) {
- print.log("⚠ Clipboard.copy 失败:" + e.message);
- }
- sleep.millisecond(毫秒 = 300);
- try {
- agent.shell("service call clipboard 3 i32 1 s16 '" + 文本 + "' i32 0");
- } catch (e2) {
- // 忽略错误
- }
- sleep.millisecond(毫秒 = 300);
- agent.shell("input keyevent 279");
- sleep.second(秒 = 1);
- print.log("✓ 已粘贴文本:" + 文本);
- }
- function 查找相册选项(xml) {
- var xmlStr = "" + xml;
-
- var text关键词 = ["相册", "图片", "照片", "所有照片", "从相册选择", "选择图片"];
- for (var i = 0; i < text关键词.length; i++) {
- var kw = text关键词[i];
- var idx = xmlStr.indexOf('text="' + kw + '"');
- if (idx !== -1) {
- var 段 = xmlStr.substring(idx);
- var m = 段.match(/bounds="\[(\d+),(\d+)\]\[(\d+),(\d+)\]"/);
- if (m) {
- print.log("✓ 相册选项定位:text=" + kw);
- return {
- x: (parseInt(m[1]) + parseInt(m[3])) / 2,
- y: (parseInt(m[2]) + parseInt(m[4])) / 2
- };
- }
- }
- }
- var desc关键词 = ["相册", "图片", "照片"];
- for (var j = 0; j < desc关键词.length; j++) {
- var kw2 = desc关键词[j];
- var idx2 = xmlStr.indexOf('content-desc="' + kw2 + '"');
- if (idx2 !== -1) {
- var 段2 = xmlStr.substring(idx2);
- var m2 = 段2.match(/bounds="\[(\d+),(\d+)\]\[(\d+),(\d+)\]"/);
- if (m2) {
- print.log("✓ 相册选项定位:content-desc=" + kw2);
- return {
- x: (parseInt(m2[1]) + parseInt(m2[3])) / 2,
- y: (parseInt(m2[2]) + parseInt(m2[4])) / 2
- };
- }
- }
- }
- return null;
- }
- function 是否在系统相册页面(xml) {
- var xmlStr = "" + xml;
-
- var packageMatch = xmlStr.match(/package="([^"]+)"/);
- var 当前包名 = packageMatch ? packageMatch[1] : "";
- if (当前包名 && 当前包名 !== 元宝包名) {
- print.log("✓ 检测到系统相册页面,包名:" + 当前包名);
- return true;
- }
-
- var gallery关键词 = ["最近", "图库", "Camera", "所有图片", "照片", "相册", "All photos", "Photos"];
- for (var i = 0; i < gallery关键词.length; i++) {
- if (xmlStr.indexOf('text="' + gallery关键词[i] + '"') !== -1 ||
- xmlStr.indexOf('content-desc="' + gallery关键词[i] + '"') !== -1) {
- var 有聊天输入 = xmlStr.indexOf("edConversationInput") !== -1;
- if (!有聊天输入) {
- print.log("✓ 检测到相册页面(关键词:" + gallery关键词[i] + ")");
- return true;
- }
- }
- }
-
- var 有图片文件 = xmlStr.indexOf('.png"') !== -1 || xmlStr.indexOf('.jpg"') !== -1 ||
- xmlStr.indexOf('.jpeg"') !== -1 || xmlStr.indexOf('.gif"') !== -1;
- var 有选择按钮 = xmlStr.indexOf('text="选择"') !== -1;
- var 有聊天输入2 = xmlStr.indexOf("edConversationInput") !== -1;
- var 有聊天列表 = xmlStr.indexOf("chat_recycler_view") !== -1;
-
- if (有图片文件 && 有选择按钮 && !有聊天输入2 && !有聊天列表) {
- print.log("✓ 检测到相册页面(元宝ComposeView,有图片文件和选择按钮)");
- return true;
- }
-
- return false;
- }
- function 是否在图片预览页面(xml) {
- var xmlStr = "" + xml;
- if (xmlStr.indexOf('text="完成"') !== -1 || xmlStr.indexOf('text="发送"') !== -1) {
- return true;
- }
- if (xmlStr.indexOf('content-desc="完成"') !== -1 || xmlStr.indexOf('content-desc="发送"') !== -1) {
- return true;
- }
- return false;
- }
- function 查找图片预览确认按钮(xml) {
- var xmlStr = "" + xml;
-
- var 关键词 = ["完成", "发送", "确认"];
- for (var i = 0; i < 关键词.length; i++) {
- var kw = 关键词[i];
- var textIdx = xmlStr.indexOf('text="' + kw + '"');
- if (textIdx !== -1) {
- var 段 = xmlStr.substring(textIdx);
- var m = 段.match(/bounds="\[(\d+),(\d+)\]\[(\d+),(\d+)\]"/);
- if (m) {
- var x = (parseInt(m[1]) + parseInt(m[3])) / 2;
- var y = (parseInt(m[2]) + parseInt(m[4])) / 2;
- print.log("✓ 图片预览确认按钮定位:text=" + kw + ",坐标(" + Math.round(x) + "," + Math.round(y) + ")");
- return { x: x, y: y };
- }
- }
- }
-
- for (var j = 0; j < 关键词.length; j++) {
- var kw2 = 关键词[j];
- var descIdx = xmlStr.indexOf('content-desc="' + kw2 + '"');
- if (descIdx !== -1) {
- var 段2 = xmlStr.substring(descIdx);
- var m2 = 段2.match(/bounds="\[(\d+),(\d+)\]\[(\d+),(\d+)\]"/);
- if (m2) {
- var x = (parseInt(m2[1]) + parseInt(m2[3])) / 2;
- var y = (parseInt(m2[2]) + parseInt(m2[4])) / 2;
- print.log("✓ 图片预览确认按钮定位:content-desc=" + kw2 + ",坐标(" + Math.round(x) + "," + Math.round(y) + ")");
- return { x: x, y: y };
- }
- }
- }
-
- print.log("⚠ 图片预览确认按钮使用兜底坐标(底部中间)");
- return { x: 屏幕宽 * 0.5, y: 屏幕高 * 0.92 };
- }
- function 查找相册选择按钮(xml) {
- var xmlStr = "" + xml;
-
- var 关键词列表 = ["选择", "完成", "确认", "发送", "确定"];
- for (var i = 0; i < 关键词列表.length; i++) {
- var kw = 关键词列表[i];
-
- var textPattern = new RegExp('text="' + kw + '[^"]*"[^>]*?bounds="\\[(\\d+),(\\d+)\\]\\[(\\d+),(\\d+)\\]"', 'gi');
- var textMatch = textPattern.exec(xmlStr);
- if (textMatch) {
- var x = (parseInt(textMatch[1]) + parseInt(textMatch[3])) / 2;
- var y = (parseInt(textMatch[2]) + parseInt(textMatch[4])) / 2;
- print.log("✓ 相册选择按钮定位:text=" + kw + ",坐标(" + Math.round(x) + "," + Math.round(y) + ")");
- return { x: x, y: y };
- }
-
- var descIdx = xmlStr.indexOf('content-desc="' + kw + '"');
- if (descIdx !== -1) {
- var 段2 = xmlStr.substring(descIdx);
- var m2 = 段2.match(/bounds="\[(\d+),(\d+)\]\[(\d+),(\d+)\]"/);
- if (m2) {
- var x = (parseInt(m2[1]) + parseInt(m2[3])) / 2;
- var y = (parseInt(m2[2]) + parseInt(m2[4])) / 2;
- print.log("✓ 相册选择按钮定位:content-desc=" + kw + ",坐标(" + Math.round(x) + "," + Math.round(y) + ")");
- return { x: x, y: y };
- }
- }
- }
-
- var bottomButtonPattern = /<node[^>]*?clickable="true"[^>]*?bounds="\[(\d+),(\d+)\]\[(\d+),(\d+)\]"/g;
- var bottomMatch;
- var 底部按钮列表 = [];
- while ((bottomMatch = bottomButtonPattern.exec(xmlStr)) !== null) {
- var bx1 = parseInt(bottomMatch[1]);
- var by1 = parseInt(bottomMatch[2]);
- var bx2 = parseInt(bottomMatch[3]);
- var by2 = parseInt(bottomMatch[4]);
- if (by1 >= 屏幕高 * 0.85) {
- 底部按钮列表.push({ x: (bx1 + bx2) / 2, y: (by1 + by2) / 2 });
- }
- }
-
- if (底部按钮列表.length > 0) {
- 底部按钮列表.sort(function(a, b) { return b.x - a.x; });
- var 最右边按钮 = 底部按钮列表[0];
- print.log("✓ 相册选择按钮定位:底部最右边按钮,坐标(" + Math.round(最右边按钮.x) + "," + Math.round(最右边按钮.y) + ")");
- return { x: 最右边按钮.x, y: 最右边按钮.y };
- }
-
- print.log("⚠ 相册选择按钮使用兜底坐标(底部)");
- return { x: 屏幕宽 * 0.78, y: 屏幕高 * 0.92 };
- }
- function 查找第一张图片(xml) {
- var xmlStr = "" + xml;
-
- if (是否在系统相册页面(xmlStr)) {
- agent.shell("echo '" + xmlStr.substring(0, 5000) + "' > /sdcard/相册UI_dump.xml");
- print.log("✓ 已保存相册UI XML到/sdcard/相册UI_dump.xml");
-
- var nafPattern = /<node[^>]*?NAF="true"[^>]*?clickable="true"[^>]*?bounds="\[(\d+),(\d+)\]\[(\d+),(\d+)\]"/g;
- var nafMatch;
- var NAF小圆点列表 = [];
-
- while ((nafMatch = nafPattern.exec(xmlStr)) !== null) {
- var nx1 = parseInt(nafMatch[1]);
- var ny1 = parseInt(nafMatch[2]);
- var nx2 = parseInt(nafMatch[3]);
- var ny2 = parseInt(nafMatch[4]);
- var nw = nx2 - nx1;
- var nh = ny2 - ny1;
-
- if (nw >= 50 && nw <= 300 && nh >= 50 && nh <= 300) {
- if (ny1 >= 400 && ny2 <= 屏幕高 - 400) {
- NAF小圆点列表.push({ x1: nx1, y1: ny1, x2: nx2, y2: ny2, x: (nx1 + nx2) / 2, y: (ny1 + ny2) / 2 });
- }
- }
- }
-
- if (NAF小圆点列表.length > 0) {
- NAF小圆点列表.sort(function(a, b) {
- if (a.y1 !== b.y1) return a.y1 - b.y1;
- return a.x1 - b.x1;
- });
- var 选中小圆点 = NAF小圆点列表[0];
- print.log("✓ ComposeView找到NAF小圆点选择框:坐标(" + Math.round(选中小圆点.x) + "," + Math.round(选中小圆点.y) + "),bounds=[" + 选中小圆点.x1 + "," + 选中小圆点.y1 + "][" + 选中小圆点.x2 + "," + 选中小圆点.y2 + "]");
- return { x: 选中小圆点.x, y: 选中小圆点.y };
- }
-
- var imageDescPattern = /<node[^>]*?content-desc="([^"]+\.(png|jpg|jpeg|gif))"[^>]*?class="android\.view\.View"[^>]*?bounds="\[(\d+),(\d+)\]\[(\d+),(\d+)\]"/gi;
- var imgMatch;
- var 图片节点列表 = [];
-
- while ((imgMatch = imageDescPattern.exec(xmlStr)) !== null) {
- var 文件名 = imgMatch[1];
- var ix1 = parseInt(imgMatch[3]);
- var iy1 = parseInt(imgMatch[4]);
- var ix2 = parseInt(imgMatch[5]);
- var iy2 = parseInt(imgMatch[6]);
- var iw = ix2 - ix1;
- var ih = iy2 - iy1;
-
- if (iw >= 100 && ih >= 100) {
- 图片节点列表.push({ 文件名: 文件名, x1: ix1, y1: iy1, x2: ix2, y2: iy2, w: iw, h: ih });
- }
- }
-
- if (图片节点列表.length > 0) {
- 图片节点列表.sort(function(a, b) {
- if (a.y1 !== b.y1) return a.y1 - b.y1;
- return a.x1 - b.x1;
- });
- var 第一张图片 = 图片节点列表[0];
- print.log("✓ 找到图片:" + 第一张图片.文件名 + ",bounds=[" + 第一张图片.x1 + "," + 第一张图片.y1 + "][" + 第一张图片.x2 + "," + 第一张图片.y2 + "]");
-
- var 选择框X = 第一张图片.x1 + 第一张图片.w * 0.77;
- var 选择框Y = 第一张图片.y1 + 第一张图片.h * 0.24;
- print.log("✓ 计算小圆点选择框坐标:(" + Math.round(选择框X) + "," + Math.round(选择框Y) + ")");
- return { x: 选择框X, y: 选择框Y };
- }
-
- var clickableViewPattern = /<node[^>]*?clickable="true"[^>]*?bounds="\[(\d+),(\d+)\]\[(\d+),(\d+)\]"/g;
- var clickMatch;
- var 可点击区域 = [];
- while ((clickMatch = clickableViewPattern.exec(xmlStr)) !== null) {
- var cx1 = parseInt(clickMatch[1]);
- var cy1 = parseInt(clickMatch[2]);
- var cx2 = parseInt(clickMatch[3]);
- var cy2 = parseInt(clickMatch[4]);
- var cw = cx2 - cx1;
- var ch = cy2 - cy1;
- 可点击区域.push({ x1: cx1, y1: cy1, x2: cx2, y2: cy2, w: cw, h: ch, x: (cx1 + cx2) / 2, y: (cy1 + cy2) / 2 });
- }
-
- var 图片区域内可点击 = [];
- for (var k = 0; k < 可点击区域.length; k++) {
- var item = 可点击区域[k];
- if (item.y >= 400 && item.y <= 屏幕高 - 400) {
- 图片区域内可点击.push(item);
- }
- }
-
- if (图片区域内可点击.length > 0) {
- 图片区域内可点击.sort(function(a, b) {
- if (a.y !== b.y) return a.y - b.y;
- return a.x - b.x;
- });
- var 第一个可点击 = 图片区域内可点击[0];
- print.log("✓ ComposeView图片区域内第一个可点击元素:坐标(" + Math.round(第一个可点击.x) + "," + Math.round(第一个可点击.y) + ")");
- return { x: 第一个可点击.x, y: 第一个可点击.y };
- }
- print.log("⚠ 系统相册未找到图片,输出调试信息:");
- print.log(" 当前包名:" + xmlStr.match(/package="([^"]+)"/)[1]);
- print.log(" XML前1000字符:" + xmlStr.substring(0, 1000));
- print.log(" NAF小圆点数量:" + NAF小圆点列表.length);
- print.log(" 图片节点数量:" + 图片节点列表.length);
-
- var allImgViews = xmlStr.match(/class="android\.widget\.ImageView"/g);
- print.log(" 全部ImageView数量:" + (allImgViews ? allImgViews.length : 0));
-
- return { x: 屏幕宽 * 0.25, y: 屏幕高 * 0.3 };
- }
- var rvPattern = /<node[^>]*?class="androidx\.recyclerview\.widget\.RecyclerView"[^>]*?bounds="\[(\d+),(\d+)\]\[(\d+),(\d+)\]"/g;
- var rvMatch;
- var 图片列表区域 = null;
- while ((rvMatch = rvPattern.exec(xmlStr)) !== null) {
- var rx1 = parseInt(rvMatch[1]);
- var ry1 = parseInt(rvMatch[2]);
- var rx2 = parseInt(rvMatch[3]);
- var ry2 = parseInt(rvMatch[4]);
- var 高度 = ry2 - ry1;
- if (ry1 > 屏幕高 * 0.7 && 高度 > 300) {
- 图片列表区域 = {x1: rx1, y1: ry1, x2: rx2, y2: ry2};
- print.log("✓ 找到底部图片列表RecyclerView:[" + rx1 + "," + ry1 + "][" + rx2 + "," + ry2 + "]");
- break;
- }
- }
- if (图片列表区域) {
- var imgPattern = /<node[^>]*?class="android\.widget\.ImageView"[^>]*?\/?>/g;
- var imgMatch;
- var 候选 = [];
- while ((imgMatch = imgPattern.exec(xmlStr)) !== null) {
- var imgNode = imgMatch[0];
- var boundsMatch = imgNode.match(/bounds="\[(\d+),(\d+)\]\[(\d+),(\d+)\]"/);
- if (!boundsMatch) continue;
- var ix1 = parseInt(boundsMatch[1]);
- var iy1 = parseInt(boundsMatch[2]);
- var ix2 = parseInt(boundsMatch[3]);
- var iy2 = parseInt(boundsMatch[4]);
- var iw = ix2 - ix1;
- var ih = iy2 - iy1;
- var 在区域内 = (ix1 >= 图片列表区域.x1 && ix2 <= 图片列表区域.x2 &&
- iy1 >= 图片列表区域.y1 && iy2 <= 图片列表区域.y2);
- var 是大图 = (iw > 100 && ih > 100);
- if (在区域内 && 是大图) {
- 候选.push({
- x: (ix1 + ix2) / 2,
- y: (iy1 + iy2) / 2,
- y1: iy1,
- x1: ix1
- });
- }
- }
- if (候选.length > 0) {
- 候选.sort(function(a, b) {
- if (a.y1 !== b.y1) return a.y1 - b.y1;
- return a.x1 - b.x1;
- });
- var 选中 = 候选[0];
- print.log("✓ 第一张图片定位:底部图片列表内的ImageView,坐标(" + Math.round(选中.x) + "," + Math.round(选中.y) + ")");
- return { x: 选中.x, y: 选中.y };
- }
- }
- var imgPattern2 = /<node[^>]*?class="android\.widget\.ImageView"[^>]*?\/?>/g;
- var imgMatch2;
- var 候选2 = [];
- while ((imgMatch2 = imgPattern2.exec(xmlStr)) !== null) {
- var imgNode = imgMatch2[0];
- var boundsMatch = imgNode.match(/bounds="\[(\d+),(\d+)\]\[(\d+),(\d+)\]"/);
- if (!boundsMatch) continue;
- var ix1 = parseInt(boundsMatch[1]);
- var iy1 = parseInt(boundsMatch[2]);
- var ix2 = parseInt(boundsMatch[3]);
- var iy2 = parseInt(boundsMatch[4]);
- var iw = ix2 - ix1;
- var ih = iy2 - iy1;
- if (iy1 > 屏幕高 * 0.7 && iw > 100 && ih > 100) {
- 候选2.push({
- x: (ix1 + ix2) / 2,
- y: (iy1 + iy2) / 2,
- y1: iy1,
- x1: ix1
- });
- }
- }
- if (候选2.length > 0) {
- 候选2.sort(function(a, b) {
- if (a.y1 !== b.y1) return a.y1 - b.y1;
- return a.x1 - b.x1;
- });
- var 选中2 = 候选2[0];
- print.log("✓ 第一张图片定位:底部区域ImageView,坐标(" + Math.round(选中2.x) + "," + Math.round(选中2.y) + ")");
- return { x: 选中2.x, y: 选中2.y };
- }
- print.log("⚠ 未找到图片,使用兜底坐标(底部第一行第一列)");
- return { x: 屏幕宽 * 0.15, y: 屏幕高 * 0.85 };
- }
- function 查找发送按钮中心(xml) {
- var xmlStr = "" + xml;
- var sendTextIdx = xmlStr.indexOf('text="发送"');
- if (sendTextIdx !== -1) {
- var 段 = xmlStr.substring(sendTextIdx);
- var m = 段.match(/bounds="\[(\d+),(\d+)\]\[(\d+),(\d+)\]"/);
- if (m) {
- print.log("✓ 发送按钮定位:文本匹配");
- return {
- x: (parseInt(m[1]) + parseInt(m[3])) / 2,
- y: (parseInt(m[2]) + parseInt(m[4])) / 2
- };
- }
- }
- var inputIdx = xmlStr.indexOf('edConversationInput');
- if (inputIdx !== -1) {
- var 输入框段 = xmlStr.substring(inputIdx);
- var 输入框边界 = 输入框段.match(/bounds="\[(\d+),(\d+)\]\[(\d+),(\d+)\]"/);
- if (输入框边界) {
- var 输入框信息 = {
- x1: parseInt(输入框边界[1]),
- y1: parseInt(输入框边界[2]),
- x2: parseInt(输入框边界[3]),
- y2: parseInt(输入框边界[4]),
- centerY: (parseInt(输入框边界[2]) + parseInt(输入框边界[4])) / 2
- };
- var clickablePattern = /<node[^>]*?clickable="true"[^>]*?bounds="\[(\d+),(\d+)\]\[(\d+),(\d+)\]"[^>]*?\/?>/g;
- var clickMatch;
- var candidates = [];
- while ((clickMatch = clickablePattern.exec(xmlStr)) !== null) {
- var cx1 = parseInt(clickMatch[1]);
- var cy1 = parseInt(clickMatch[2]);
- var cx2 = parseInt(clickMatch[3]);
- var cy2 = parseInt(clickMatch[4]);
- var cw = cx2 - cx1;
- var ch = cy2 - cy1;
- var 是小按钮 = (cw < 300 && ch < 300);
- var 在输入框右侧 = (cx1 > 输入框信息.x2 - 100);
- var 在输入框水平行 = (cy1 >= 输入框信息.y1 - 100 && cy1 <= 输入框信息.y2 + 100);
- if (是小按钮 && 在输入框右侧 && 在输入框水平行) {
- candidates.push({
- x1: cx1, y1: cy1, x2: cx2, y2: cy2,
- x: (cx1 + cx2) / 2,
- y: (cy1 + cy2) / 2
- });
- }
- }
- if (candidates.length > 0) {
- var 发送按钮候选 = [];
- for (var ci = 0; ci < candidates.length; ci++) {
- var cand = candidates[ci];
- if (cand.y1 >= 输入框信息.y1 + 300) {
- 发送按钮候选.push(cand);
- }
- }
-
- if (发送按钮候选.length > 0) {
- 发送按钮候选.sort(function(a, b) {
- return b.x1 - a.x1;
- });
- var 选中 = 发送按钮候选[0];
- print.log("✓ 发送按钮定位:输入框右侧下方clickable元素,坐标(" + Math.round(选中.x) + "," + Math.round(选中.y) + ")");
- return { x: 选中.x, y: 选中.y };
- }
-
- candidates.sort(function(a, b) {
- return b.x1 - a.x1;
- });
- var 选中 = candidates[0];
- print.log("✓ 发送按钮定位:输入框右侧clickable元素,坐标(" + Math.round(选中.x) + "," + Math.round(选中.y) + ")");
- return { x: 选中.x, y: 选中.y };
- }
- var 预估X = 输入框信息.x2 + 100;
- var 预估Y = 输入框信息.centerY;
- print.log("⚠ 发送按钮使用输入框右侧兜底坐标(" + Math.round(预估X) + "," + Math.round(预估Y) + ")");
- return { x: 预估X, y: 预估Y };
- }
- }
- print.log("⚠ 发送按钮使用屏幕右侧兜底策略");
- return {
- x: 屏幕宽 * 0.92,
- y: 屏幕高 * 0.92
- };
- }
- function 等待AI回答完成(发送前的最后文本, 发送前回答数量) {
- var 已耗时 = 0;
- var 检查间隔秒 = 1;
- print.log("发送前最后AI回答:'" + 发送前的最后文本 + "',发送前回答数量:" + 发送前回答数量);
- while (已耗时 < 等待回答超时秒) {
- sleep.second(秒 = 检查间隔秒);
- 已耗时 += 检查间隔秒;
- xml = 获取UI();
- var 回答列表 = 采集AI回答列表(xml);
-
- if (回答列表.length > 0) {
- var 当前最后回答 = 回答列表[回答列表.length - 1];
-
- var 有新回答 = (当前最后回答 !== 发送前的最后文本);
- var 回答数量增加 = (回答列表.length > 发送前回答数量);
-
- if (有新回答 || 回答数量增加) {
- print.log("✓ 检测到新回答(" + 已耗时 + "秒):'" + 当前最后回答 + "',数量:" + 回答列表.length);
-
- var 等待完成 = 0;
- var 上次长度 = 字符串长度(当前最后回答);
- while (等待完成 < 回答输出等待秒) {
- sleep.second(秒 = 1);
- 等待完成++;
-
- xml = 获取UI();
- var 当前列表 = 采集AI回答列表(xml);
- if (当前列表.length > 0) {
- var 当前文本 = 当前列表[当前列表.length - 1];
- if (字符串长度(当前文本) === 上次长度) {
- print.log("✓ 文本停止变化,返回采集结果:" + 当前文本);
- return 当前文本;
- }
- 上次长度 = 字符串长度(当前文本);
- }
- }
-
- var 最终列表 = 采集AI回答列表(xml);
- if (最终列表.length > 0) {
- var 最终文本 = 最终列表[最终列表.length - 1];
- print.log("✓ 采集成功,返回结果:" + 最终文本);
- return 最终文本;
- }
- }
- }
- }
- print.log("⚠ 等待AI回答超时(" + 等待回答超时秒 + "秒),尝试返回当前内容");
- xml = 获取UI();
- var 兜底列表 = 采集AI回答列表(xml);
- if (兜底列表.length > 0) {
- var 兜底文本 = 兜底列表[兜底列表.length - 1];
- print.log("✓ 超时兜底:返回当前采集到的回答:" + 兜底文本);
- return 兜底文本;
- }
- return null;
- }
- // ========== 主流程开始 ==========
- function 主流程() {
- // 步骤1:全屏截图(B站验证码页面)
- print.log("\n========== 步骤1:全屏截图B站验证码 ==========");
- var 截图成功 = 全屏截图(截图保存路径);
- if (!截图成功) {
- print.log("✗ 截图失败,退出流程");
- print.log("===== 元宝识别验证码拖动B站流程结束 =====");
- return;
- }
- // 步骤2:启动元宝APP
- print.log("\n========== 步骤2:启动元宝APP ==========");
- try {
- app.openApp(元宝包名);
- print.log("✓ 已启动元宝");
- } catch (e) {
- print.log("⚠ 启动失败:" + e.message);
- }
- sleep.second(秒 = 5);
- // 步骤3:确认进入对话页面
- print.log("\n========== 步骤3:确认进入对话页面 ==========");
- var xml = 获取UI();
- var hasRecyclerView = (xml.indexOf("chat_recycler_view") !== -1);
- if (!hasRecyclerView) {
- print.log("⚠ 当前页面可能不是元宝对话页,再次等待");
- sleep.second(秒 = 3);
- xml = 获取UI();
- hasRecyclerView = (xml.indexOf("chat_recycler_view") !== -1);
- }
- if (hasRecyclerView) {
- print.log("✓ 已进入元宝对话页面");
- } else {
- print.log("⚠ 未检测到消息列表,继续尝试");
- }
- // 步骤4:记录发送前的最后一条AI回答和数量
- var 发送前回答列表 = 采集AI回答列表(xml);
- var 发送前回答数量 = 发送前回答列表.length;
- var 发送前最后文本 = "";
- if (发送前回答列表.length > 0) {
- 发送前最后文本 = 发送前回答列表[发送前回答列表.length - 1];
- }
- print.log("✓ 发送前回答数量:" + 发送前回答数量 + ",最后文本:'" + 发送前最后文本 + "'");
- // 步骤5:点击加号按钮打开附件菜单
- print.log("\n========== 步骤5:点击加号按钮打开附件菜单 ==========");
- var 加号按钮 = 查找加号按钮(xml);
- agent.click(加号按钮.x, 加号按钮.y);
- print.log("✓ 已点击加号按钮,坐标(" + Math.round(加号按钮.x) + "," + Math.round(加号按钮.y) + ")");
- sleep.second(秒 = 2);
- // 步骤6:选择相册或图片
- print.log("\n========== 步骤6:选择相册或图片 ==========");
- var 相册选择成功 = false;
- var 尝试次数 = 0;
- while (!相册选择成功 && 尝试次数 < 5) {
- 尝试次数++;
- xml = 获取UI();
-
- if (是否在系统相册页面(xml)) {
- print.log("✓ 已进入系统相册页面");
- 相册选择成功 = true;
- break;
- }
-
- var 相册选项 = 查找相册选项(xml);
- if (相册选项) {
- agent.click(相册选项.x, 相册选项.y);
- print.log("✓ 已点击相册选项,坐标(" + Math.round(相册选项.x) + "," + Math.round(相册选项.y) + ")");
- sleep.second(秒 = 2);
- 相册选择成功 = true;
- break;
- }
-
- var imgCount = (xml.match(/class="android\.widget\.ImageView"/g) || []).length;
- if (imgCount >= 4) {
- print.log("✓ 加号菜单底部已显示图片列表(检测到" + imgCount + "个图片)");
- 相册选择成功 = true;
- break;
- }
-
- print.log("⚠ 第" + 尝试次数 + "次尝试:未找到相册选项,等待重试");
- sleep.second(秒 = 1);
- }
- // 步骤7:选择第一张图片(处理系统相册和图片预览页面)
- print.log("\n========== 步骤7:选择第一张图片 ==========");
- var 图片选择成功 = false;
- var 图片尝试次数 = 0;
- while (!图片选择成功 && 图片尝试次数 < 10) {
- 图片尝试次数++;
- xml = 获取UI();
-
- if (图片尝试次数 === 1) {
- var pkgMatch = xml.match(/package="([^"]+)"/);
- print.log("调试:当前包名=" + (pkgMatch ? pkgMatch[1] : "未知"));
- print.log("调试:XML前300字符=" + xml.substring(0, 300));
- print.log("调试:是否有edConversationInput=" + (xml.indexOf("edConversationInput") !== -1));
- print.log("调试:是否有chat_recycler_view=" + (xml.indexOf("chat_recycler_view") !== -1));
- var dbgImgCount = (xml.match(/class="android\.widget\.ImageView"/g) || []).length;
- print.log("调试:ImageView数量=" + dbgImgCount);
- }
-
- if (是否在图片预览页面(xml)) {
- var 确认按钮 = 查找图片预览确认按钮(xml);
- agent.click(确认按钮.x, 确认按钮.y);
- print.log("✓ 已点击图片预览确认按钮,坐标(" + Math.round(确认按钮.x) + "," + Math.round(确认按钮.y) + ")");
- 图片选择成功 = true;
- sleep.second(秒 = 3);
- break;
- }
-
- if (是否在系统相册页面(xml)) {
- var 第一张图片 = 查找第一张图片(xml);
- if (第一张图片) {
- agent.click(第一张图片.x, 第一张图片.y);
- print.log("✓ 已点击第一张图片右上角小圆点,坐标(" + Math.round(第一张图片.x) + "," + Math.round(第一张图片.y) + ")");
- sleep.second(秒 = 2);
-
- xml = 获取UI();
- var 选择按钮 = 查找相册选择按钮(xml);
- if (选择按钮) {
- agent.click(选择按钮.x, 选择按钮.y);
- print.log("✓ 已点击选择按钮,坐标(" + Math.round(选择按钮.x) + "," + Math.round(选择按钮.y) + ")");
- 图片选择成功 = true;
- sleep.second(秒 = 3);
- break;
- } else {
- print.log("⚠ 第" + 图片尝试次数 + "次:未找到选择按钮,重新获取XML重试");
- sleep.second(秒 = 1);
- continue;
- }
- } else {
- print.log("⚠ 系统相册未找到图片");
- sleep.second(秒 = 1);
- continue;
- }
- }
-
- print.log("⚠ 第" + 图片尝试次数 + "次尝试:未检测到相册页面,等待重试");
- sleep.second(秒 = 1);
- }
- // 步骤8:等待图片添加到输入区域(等待回到元宝对话页面)
- print.log("\n========== 步骤8:等待图片添加到输入区域 ==========");
- var 图片添加成功 = false;
- var 等待尝试次数 = 0;
- while (!图片添加成功 && 等待尝试次数 < 10) {
- 等待尝试次数++;
- xml = 获取UI();
-
- var packageMatch = xml.match(/package="([^"]+)"/);
- if (packageMatch && packageMatch[1] === 元宝包名) {
- print.log("✓ 已回到元宝对话页面");
- if (xml.indexOf("edConversationInput") !== -1) {
- print.log("✓ 图片已添加到输入区域");
- 图片添加成功 = true;
- break;
- }
- }
-
- print.log("⚠ 第" + 等待尝试次数 + "次尝试:图片尚未添加,等待重试");
- sleep.second(秒 = 1);
- }
-
- if (!图片添加成功) {
- print.log("⚠ 多次等待图片未添加,继续后续步骤");
- }
- // 步骤9:粘贴文字询问拖动距离
- print.log("\n========== 步骤9:粘贴文字询问拖动距离 ==========");
- xml = 获取UI();
- var 输入框 = 查找输入框中心(xml);
- var AI回答 = null;
- if (输入框) {
- agent.click(输入框.x, 输入框.y);
- sleep.second(秒 = 1);
- 粘贴文本(提问话术);
- print.log("✓ 已粘贴文本:" + 提问话术);
- sleep.second(秒 = 2);
- // 步骤10:发送图片和文字
- print.log("\n========== 步骤10:发送图片和文字 ==========");
- xml = 获取UI();
- var 发送按钮 = 查找发送按钮中心(xml);
- if (发送按钮) {
- agent.click(发送按钮.x, 发送按钮.y);
- print.log("✓ 已点击发送按钮,坐标(" + Math.round(发送按钮.x) + "," + Math.round(发送按钮.y) + ")");
- } else {
- agent.shell("input keyevent 66");
- print.log("⚠ 未找到发送按钮,已尝试按回车发送");
- }
- sleep.second(秒 = 3);
- // 步骤11:等待元宝AI回答
- print.log("\n========== 步骤11:等待元宝AI回答 ==========");
- AI回答 = 等待AI回答完成(发送前最后文本, 发送前回答数量);
- } else {
- print.log("⚠ 未找到输入框");
- }
-
- if (!AI回答) {
- print.log("✗ 未获取到AI回答");
- print.log("===== 元宝识别验证码拖动B站流程结束 =====");
- return;
- }
- print.log("\n✓ 采集到AI回答");
- print.log("--- 采集内容开始 ---");
- print.log(AI回答);
- print.log("--- 采集内容结束 ---");
- // 步骤12:解析拖动距离坐标
- print.log("\n========== 步骤12:解析拖动距离坐标 ==========");
- print.log("✓ AI原始回答:'" + AI回答 + "'");
-
- var 所有数字 = AI回答.match(/\d+/g);
- var 拖动距离像素 = null;
- var AI图像宽度 = null;
-
- if (所有数字 && 所有数字.length >= 2) {
- var 数字列表 = [];
- for (var i = 0; i < 所有数字.length; i++) {
- 数字列表.push(parseInt(所有数字[i]));
- }
- print.log("✓ 提取到所有数字:" + 数字列表.join(", "));
-
- if (数字列表.length >= 5) {
- var x1 = 数字列表[0];
- var y1 = 数字列表[1];
- var x2 = 数字列表[2];
- var y2 = 数字列表[3];
- AI图像宽度 = 数字列表[4];
- 拖动距离像素 = Math.abs(x2 - x1);
- print.log("✓ 识别到两组坐标+图像宽度:(" + x1 + "," + y1 + ") 和 (" + x2 + "," + y2 + "),图像宽度=" + AI图像宽度);
- print.log("✓ 计算拖动距离:|x2 - x1| = |" + x2 + " - " + x1 + "| = " + 拖动距离像素);
- } else if (数字列表.length >= 4) {
- var x1 = 数字列表[0];
- var y1 = 数字列表[1];
- var x2 = 数字列表[2];
- var y2 = 数字列表[3];
- 拖动距离像素 = Math.abs(x2 - x1);
- AI图像宽度 = Math.max(x1, x2) + 100;
- print.log("✓ 识别到两组坐标格式:(" + x1 + "," + y1 + ") 和 (" + x2 + "," + y2 + ")");
- print.log("✓ 计算拖动距离:|x2 - x1| = |" + x2 + " - " + x1 + "| = " + 拖动距离像素);
- print.log("✓ 估算图像宽度:max(x1,x2)+100 = " + AI图像宽度);
- } else if (数字列表.length >= 2) {
- var 坐标匹配 = AI回答.match(/(\d+)\s*[,,]\s*(\d+)/);
- if (坐标匹配) {
- var cx1 = parseInt(坐标匹配[1]);
- var cx2 = parseInt(坐标匹配[2]);
- 拖动距离像素 = Math.abs(cx2 - cx1);
- AI图像宽度 = Math.max(cx1, cx2) + 100;
- print.log("✓ 识别到坐标格式:(" + cx1 + "," + cx2 + "),计算距离:" + 拖动距离像素);
- } else {
- 拖动距离像素 = 数字列表[0];
- print.log("✓ 提取到单个数字(拖动距离):" + 拖动距离像素);
- }
- } else {
- 拖动距离像素 = 数字列表[0];
- print.log("✓ 提取到单个数字(拖动距离):" + 拖动距离像素);
- }
- } else if (所有数字 && 所有数字.length === 1) {
- 拖动距离像素 = parseInt(所有数字[0]);
- print.log("✓ 提取到单个数字(拖动距离):" + 拖动距离像素);
- } else {
- print.log("✗ 未找到有效的拖动距离");
- print.log("===== 元宝识别验证码拖动B站流程结束 =====");
- return;
- }
-
- var 图像缩放系数 = 1.0;
- if (AI图像宽度 && AI图像宽度 > 0 && AI图像宽度 < 屏幕宽) {
- 图像缩放系数 = 屏幕宽 / AI图像宽度;
- if (图像缩放系数 > 5) {
- 图像缩放系数 = 1.0;
- } else {
- 拖动距离像素 = Math.round(拖动距离像素 * 图像缩放系数);
- print.log("✓ 图像缩放补偿:AI图像宽度=" + AI图像宽度 + ",屏幕宽=" + 屏幕宽);
- print.log("✓ 缩放系数=" + 图像缩放系数.toFixed(2) + ",补偿后拖动距离=" + 拖动距离像素);
- }
- } else if (拖动距离像素 < 200) {
- 图像缩放系数 = 屏幕宽 / 750;
- 拖动距离像素 = Math.round(拖动距离像素 * 图像缩放系数);
- print.log("✓ 单数字模式补偿:假设AI图像宽度≈750,缩放系数=" + 图像缩放系数.toFixed(2));
- print.log("✓ 补偿后拖动距离=" + 拖动距离像素);
- }
-
- 验证码滑块距离 = {
- x: 拖动距离像素,
- y: 0
- };
- // 步骤13:切换回B站并拖动滑块
- print.log("\n========== 步骤13:切换回B站并拖动滑块 ==========");
-
- agent.shell("input keyevent 187");
- print.log("✓ 已按后台键打开任务列表");
- sleep.second(秒 = 2);
-
- xml = 获取UI();
- var biliIdx = xml.indexOf('哔哩哔哩');
- if (biliIdx === -1) {
- biliIdx = xml.indexOf('bilibili');
- }
- if (biliIdx === -1) {
- biliIdx = xml.indexOf('B站');
- }
-
- if (biliIdx !== -1) {
- var 段 = xml.substring(biliIdx);
- var m = 段.match(/bounds="\[(\d+),(\d+)\]\[(\d+),(\d+)\]"/);
- if (m) {
- var clickX = (parseInt(m[1]) + parseInt(m[3])) / 2;
- var clickY = (parseInt(m[2]) + parseInt(m[4])) / 2;
- agent.click(clickX, clickY);
- print.log("✓ 已点击B站任务卡片,坐标(" + Math.round(clickX) + "," + Math.round(clickY) + ")");
- }
- } else {
- print.log("⚠ 未找到B站任务卡片,尝试直接打开");
- try {
- app.openApp(B站包名);
- print.log("✓ 已打开B站");
- } catch (e) {
- print.log("⚠ 打开B站失败:" + e.message);
- }
- }
- sleep.second(秒 = 3);
- xml = 获取UI();
- var 验证码区域左边界 = 屏幕宽 * 0.15;
-
- var 滑块轨道匹配 = xml.match(/<node[^>]*?text="拖动滑块完成拼图"[^>]*?bounds="\[(\d+),(\d+)\]\[(\d+),(\d+)\]"/);
- if (滑块轨道匹配) {
- 验证码区域左边界 = parseInt(滑块轨道匹配[1]);
- }
- var 拖动距离 = 验证码滑块距离.x * 滑块校准系数;
- var startX = 验证码区域左边界 + 50;
- var startY = 屏幕高 * 0.42;
- var endX = startX + 拖动距离;
- var endY = startY;
- print.log("✓ 验证码区域左边界: " + 验证码区域左边界 + ", 拖动距离: " + 拖动距离);
- agent.swip(startX, startY, endX, endY, 2000);
- print.log("✓ 已拖动滑块,起点(" + Math.round(startX) + "," + Math.round(startY) + "),终点(" + Math.round(endX) + "," + Math.round(endY) + ")");
- }
- 主流程();
- print.log("\n===== 元宝识别验证码拖动B站流程结束 =====");
复制代码
| |  | |  |
|