实践:使用FLANN.LSH进行检索
1.Survey:
FLANN 库详情见:http://en.wikipedia.org/wiki/Flann
http://medievalscotland.org/kmo/AnnalsIndex/Feminine/Flann.shtml
FLANN主页:http://www.cs.ubc.ca/research/flann/:FLANN is written in C++ and contains bindings for the following languages: C, MATLAB and Python.
OpenCV的FLANN库相对于原始FLANN库功能较少;比如不能直接使用flann::Matrix<unsigned char> data ();
OpenCV和PCL都使用了FLANN 库,自从用Python实现CP之后,发现重写LSH的工作量还是相当大,于是使用PCL的FLANN库,省去转化的麻烦。
使用CP的检索方式,看来只能用matlab实现了,因为没有办法实现128位的hash表。
2.使用过程中遇到的麻烦(Vs.KD-Tree):
VS2010不能完全支持CX0标准,不支持vector的下标越界检验,很受伤.....
2.1.使用函数载入特征数据集,存入vector:
//Load the data source
loadVotexFModels(pathName, extension, models);
原始特征数据可以直接存入矩阵,貌似只能使用UChar型:
// Convert data into FLANN format
flann::Matrix<unsigned char> data (
new unsigned char[models.size () * models[0].second.size ()],
models.size (),
models[0].second.size ()); for (size_t i = 0; i < data.rows; ++i)
for (size_t j = 0; j < data.cols; ++j)
data[i][j] = models[i].second[j]; flann::save_to_file (data, training_data_h5_file_name, "training_data");// Save data to disk (list of models)
delete[] data.ptr ();
2.1.使用存储时,使用了C语言的类型FILE* (据说比使用C++的stream快256倍)
unsigned int table_number =6;
unsigned int key_size =8; //unsigned int key_size =32;//32 is so big a value;在库的内部没有排错语句,很失败!
unsigned int multi_probe_level=2; //Create hash index
flann::LshIndex<flann::ChiSquareDistance<unsigned char> > index (data, flann::LshIndexParams (table_number, key_size,multi_probe_level)); index.buildIndex (); FILE* StreamIdx =fopen(kdtree_idx_file_name.c_str(),"wb");//Use the FILE* Type.
index.saveIndex(StreamIdx);
fclose(StreamIdx);
2.3 修改文件:
.flann/util/result_set.h line263:
size_t j ==0 时,会造成 --j 成为一个很大的数,造成下表越界,故添加语句:if (j>=dist_index_.size()) break; //wishchin 跳出循环。
2.4.对位操作符的修改:
使用unsigned int key_size =32;时
向右以为size_t(1)<< key_size , 产生的值为1造成向量下标超出;或许可以改成power()函数....
long long(1)<< key_size ;约为4GBits.
|= 或等于的使用,把函数符号拆开 x = x| y;
3.使用LSH检索特征:
FILE* StreamIdx =fopen(kdtree_idx_file_name.c_str(),"rb");
index.loadIndex(StreamIdx);//唯一调用函数...
测试函数:
testCreateLshindex(argc,argv); void testCreateLshindex(int argc, _TCHAR* argv[])
{
CLSH FeatureIndex; std::string pathName(argv[2]);
std::string H5_file_Name(argv[3]);
std::string idx_file_Name(argv[4]);
std::string data_list_file_name(argv[5]); FeatureIndex.genLshVotexFFromFile(pathName,
H5_file_Name,idx_file_Name,data_list_file_name);
return;
} testLshSearch(argc,argv);// 测试检索结果!准确率挺高的... void testLshSearch(int argc, _TCHAR* argv[])
{
CLSH FeatureIndex; std::string pathName(argv[2]);
std::string H5_file_Name(argv[3]);
std::string idx_file_Name(argv[4]);
const std::string data_list_file_name(argv[5]); std::string test_file_name(argv[1]);
Votex_model Feature; FeatureIndex.loadVotexFHist(test_file_name,Feature); unsigned int table_number =6;
unsigned int key_size =8;
unsigned int multi_probe_level=2;
int k =6; flann::Matrix<unsigned char> data;
std::vector<std::string> Filelist; FeatureIndex.loadLshSQL(H5_file_Name,
idx_file_Name,
data_list_file_name,
data,
Filelist); flann::LshIndex<flann::ChiSquareDistance<unsigned char> > index(data, flann::LshIndexParams (table_number, key_size,multi_probe_level)); FeatureIndex.loadLshIndex(idx_file_Name,data,index,table_number ,key_size ,multi_probe_level); flann::Matrix<int> k_indices;
flann::Matrix<float> k_distances;
k_indices = flann::Matrix<int>(new int[k], 1, k);
k_distances = flann::Matrix<float>(new float[k], 1, k); FeatureIndex.searchLshSQL(Feature,index,k,k_indices,k_distances); for (int idx =0;idx< k;++idx){
cout<< Filelist[(k_indices[0][idx])]<<endl;
}
return;
}
实践:使用FLANN.LSH进行检索的更多相关文章
- 图像检索(6):局部敏感哈希索引(LSH)
图像检索中,对一幅图像编码后的向量的维度是很高.以VLAD为例,基于SIFT特征点,设视觉词汇表的大小为256,那么一幅图像编码后的VLAD向量的长度为$128 \times 256 = 32768 ...
- 用Elasticsearch做大规模数据的多字段、多类型索引检索
本文同时发布在我的个人博客 之前尝试了用mysql做大规模数据的检索优化,可以看到单字段检索的情况下,是可以通过各种手段做到各种类型索引快速检索的,那是一种相对简单的场景. 但是实际应用往往会复杂一些 ...
- paloalto防火墙安装内容和软件更新
1.为了确保您始终不会受到最新威胁(包括尚未发现的威胁)的攻击,您必须确保防火墙始终具有 Palo Alto Networks 发布的最新更新内容及软件. • Antivirus(防病毒)— 包括新的 ...
- BigData NoSQL —— ApsaraDB HBase数据存储与分析平台概览
一.引言 时间到了2019年,数据库也发展到了一个新的拐点,有三个明显的趋势: 越来越多的数据库会做云原生(CloudNative),会不断利用新的硬件及云本身的优势打造CloudNative数据库, ...
- RxJS中高阶操作符的全面讲解:switchMap,mergeMap,concatMap,exhaustMap
RxJS中高阶映射操作符的全面讲解:switchMap, mergeMap, concatMap (and exhaustMap) 原文链接:https://blog.angular-universi ...
- 位姿检索PoseRecognition:LSH算法.p稳定哈希
位姿检索使用了LSH方法,而不使用PNP方法,是有一定的来由的.主要的工作会转移到特征提取和检索的算法上面来,有得必有失.因此,放弃了解析的方法之后,又放弃了优化的方法,最后陷入了检索的汪洋大海. 0 ...
- TKE用户故事 | 作业帮检索服务基于Fluid的计算存储分离实践
作者 吕亚霖,2019年加入作业帮,作业帮基础架构-架构研发团队负责人,在作业帮期间主导了云原生架构演进.推动实施容器化改造.服务治理.GO微服务框架.DevOps的落地实践. 张浩然,2019年加入 ...
- zz阿里妈妈深度树检索技术(TDM)及应用框架的探索实践
分享嘉宾:何杰 阿里妈妈 高级算法专家 编辑整理:孙锴 内容来源:DataFun AI Talk 出品社区:DataFun 注:欢迎转载,转载请注明出处 导读:阿里妈妈是阿里巴巴集团旗下数字营销的大中 ...
- 彻底弄懂LSH之simHash算法
马克·吐温曾经说过,所谓经典小说,就是指很多人希望读过,但很少人真正花时间去读的小说.这种说法同样适用于“经典”的计算机书籍. 最近一直在看LSH,不过由于matlab基础比较差,一直没搞懂.最近看的 ...
随机推荐
- appium分层自动化的封装
1.创建一个case包,start_app的python文件 #coding=utf-8from appium import webdriverfrom util.read_init import R ...
- php第十一节课
增删改查 <!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN" "http://www.w3 ...
- java 反射之获取泛型对象的所有字段与对应的值(包括父类的)
上代码: public static void main(String[] args) throws IntrospectionException { SysUser obj = new SysUse ...
- (9)使用JdbcTemplate【从零开始学Spring Boot】
整体步骤: (1) 在pom.xml加入jdbcTemplate的依赖: (2) 编写DemoDao类,声明为:@Repository,引入JdbcTemplate (3) 编写DemoS ...
- 基于Mysql-Proxy 实现MariaDB 读写分离
一.Mysql-Proxy 简单介绍 MySQL-Proxy是一个处于你的client端和MySQL server端之间的简单程序,它可以监测.分析或改变它们的通信.它使用灵活,没有限制,常见的用途包 ...
- I - Tunnel Warfare
I - Tunnel Warfare HDU - 1540 思路:原来以为自己已经完全理解了线段树,现在发现其实还差一些火候,做题的时候太拘泥于格式,思路不是很能放开. #include<cst ...
- Spring MVC-静态页面示例(转载实践)
以下内容翻译自:https://www.tutorialspoint.com/springmvc/springmvc_static_pages.htm 说明:示例基于Spring MVC 4.1.6. ...
- CentOS6.3安装Mysql-5.5.29
转自:http://www.cnblogs.com/zhoulf/archive/2013/01/25/zhoulf.html 安装方式分为rpm和源码编译安装两种,本文是采用mysql源码编译方式, ...
- 在linux下怎么安装.bin的文件
*.bin文件安装方法: 1.运行终端到文件目录下2.在终端输入:sudo chmod +x *.bin3.再输入:sudo ./*.bin可安装到任意目录,./*.bin可安装到当前用户有权限的目录
- 安装visual studio 2013【转】
本文转载自:http://blog.csdn.net/tina_ttl/article/details/51544733#1下载-visual-studio-ultimate-2013安装包 微软已经 ...