mysql - 如何在数据库里优化 汉明距离 查询?
问题描述
项目里需要一个搜索相似图片的功能,百度了一些dhash的算法,生成了16个长度的hash值,在mysql里这样查询:
SELECT pk, hash, BIT_COUNT( CONV(hash, 16, 10) ^ CONV(’4c8e3366c275650f’, 16, 10) ) as hamming_distance FROM image_hashes HAVING hamming_distance < 4 ORDER BY hamming_distance ASC;
经测试,15W条数据,搜索需要很长时间。第二次速度会快些,有啥办法可以优化?
问题解答
回答1:谢邀。
抱歉地说,这个我也没有做过,只是之前听说过汉明距离。15w数据,不是很多,但是用了mysql的函数,没办法创建索引。。。
大概搜了一下,有相同的问题。可以参考mysql 图片汉明距离计算, 近40w的异或计算, 如何破
Hamming distance on binary strings in SQL
你可以试试mysql的内存表 MySQL内存表的特性与使用介绍
回答2:不好意思,没有“汉明距离”的相关经验。
如果只是15W数据的话,可以把数据加载到内存里缓存起来,然后在程序里运算,毕竟SQL并不擅长做这种事情。
仅从你的SQL来说,的确没有太大的优化空间,能想到的就只有以下几点:
hash列用char代替varchar
舍弃ORDER BY hamming_distance ASC,改为由程序排序
建议把DDL语句和EXPLAIN结果也发上来一并分析,不过最大的性能卡口应该是BIT_COUNT(CONV(hash, 16, 10) ^ CONV(’4c8e3366c275650f’, 16, 10)) as hamming_distance,其实相当于全表扫描了。
相关文章:
1. python - 求一个在def中可以实现调用本def满足特定条件continue效果的方法(标题说不太清楚,请见题内描述)2. $fields = $values = [];这条代码一直定义不了,一直报错,老师的源码也是被报错的,执行不了,请问该怎么解决这个问题3. MYSQL新建用户设置可以远程访问的问题4. mysql多表联合查询优化的问题5. 数据库设计 - MySQL数据库主键问题6. linux - 为什么我在mysql的my.cnf下找不到bind-address?7. node.js - 我想让最后进入数据库的数据,在前台最先展示,如何做到?8. MySQL中的enum类型有什么优点?9. mysql字符串排序问题10. mysql 5.7单表300万数据,性能严重下降,如何破?
![$fields = $values = [];这条代码一直定义不了,一直报错,老师的源码也是被报错的,执行不了,请问该怎么解决这个问题](http://www.haobala.com/attached/image/news/202205/093622cb60.png)