bash  循环 算术计算 读写文件

[root@hadoop2 ~]# sh looh.sh
1
2
3
4
LIZ
1 2 3 4
0
1
2
3
4
5
6
7
8
9
10
0
games:x:12:100:games:/usr/games:/sbin/nologin
12
ok
0
rpc:x:32:32:Rpcbind
24
ok
0
saslauth:x:499:76:Saslauthd
36
ok
0
OProfile:/home/oprofile:/sbin/nologin
48
ok
58

[root@hadoop2 ~]# cat looh.sh
for n in 1 2 3 4
do
echo $n
done

echo 'LIZ'

for n in "1 2 3 4"
do
echo $n
done

var0=0
limit=10

while [ "$var0" -le "$limit" ]
do
echo " $var0 "

var0=$((var0+1))
done

loop_c=0
loop_step=12
loop_tag=0
for LINE in `cat /etc/passwd`
do
loop_c=$((loop_c+1))
loop_tag=$((loop_c%loop_step))
if [ $loop_tag -eq 0 ]
then
echo $loop_tag
echo $LINE
echo $loop_c
echo 'ok'
else
continue
fi
done

echo $loop_c

echo
exit 0

[root@hadoop2 ~]#

loop_c=0
loop_step=10000
loop_tag=0
str_head='{"delete":{"_index":"direct_vote","_type":"kwaddress","_id":"'
str_foot='"}}'

for LINE in `cat /etc/passwd`
do
loop_c=$((loop_c+1))
loop_tag=$((loop_c%loop_step))
echo ${str_head}$LINE${str_foot} >> bash.url.txt
echo $loop_tag
echo $loop_c
echo ${str_head}$LINE${str_foot}
if [ $loop_tag -eq 0 ]
then
echo '' > bash.url.txt
#curl www.baidu.com
else
continue
fi
done

echo $loop_c

echo
exit 0

【执行计划】下午计划在线上A服务器执行该脚本(执行前可能会局部修改),对es中3100万URL中的490万URL进行删除,涉及文件为该脚本和490万URL的单个文本。
[root@hadoop2 ~]# cat  looh.sh
loop_c=0
loop_step=10001
loop_tag=0
str_head='{"delete":{"_index":"direct_vote","_type":"kwaddress","_id":"'
str_foot='"}}'
bulk_file=bulk.del.es.json
log_file=bulk.del.es.json.log echo '' > $bulk_file
for LINE in `cat /root/chk_url_404_pure_url_small_150000.txt`
do
loop_c=$((loop_c+1))
loop_tag=$((loop_c%loop_step))
echo ${str_head}$LINE${str_foot} >> $bulk_file
echo $loop_c
if [ $loop_tag -eq 0 ]
then
echo $loop_c
curl -XPOST hadoop2:9200/_bulk --data-binary @$bulk_file >> $log_file
sleep 90s
echo '' > $bulk_file
else
continue
fi
done echo $loop_c curl -XPOST hadoop2:9200/_bulk --data-binary @$bulk_file >> $log_file echo
exit 0 [root@hadoop2 ~]#

  

 
 
 
 
 

500万url的es 批删除的更多相关文章

  1. 记录解决java.io.IOException: Server returned HTTP response code: 500 for URL:xxxxxxxx

    踩坑经历 因为项目需要去对接别的接口,使用URLConnection POST请求https接口,发送json数组时遇到java.io.IOException: Server returned HTT ...

  2. 拓展企业VR培训业务,这家VR训练公司StriVR完成500万美元融资!

    虚拟现实初创公司StriVR最近发布了新的企业VR训练产品项目,并宣布在刚刚结束的首轮融资中获得500万美元投资.由Signia Venture Partners领投,宝马i Venturesi.Ad ...

  3. Swift给每个开发者赢取500万的机会!不看一生后悔。

    [导语] Swift的横空出世,很多有想法的人已经发现其中的蕴含的巨大商机,而很多新手却只是云里雾里,只知道大家最近讨论Swift很欢乐.内行看门道,外行看热闹,说的就是这个理.如果你能把swift用 ...

  4. 你想建设一个能承受500万PV/每天的网站吗?服务器每秒要处理多少个请求才能应对?

    你想建设一个能承受500万PV/每天的网站吗?服务器每秒要处理多少个请求才能应对? 你想建设一个能承受500万PV/每天的网站吗? 500万PV是什么概念?服务器每秒要处理多少个请求才能应对?如果计算 ...

  5. 你想建设一个能承受500万PV/每天的网站吗?

    (如果感觉有帮助,请帮忙点推荐,添加关注,谢谢!你的支持是我不断更新文章的动力.本博客会逐步推出一系列的关于大型网站架构.分布式应用.设计模式.架构模式等方面的系列文章) 你想建设一个能承受500万P ...

  6. 你想建设一个能承受500万PV/每天的网站吗?如果计算呢?(转)

    作者:赵磊 博客:http://elf8848.iteye.com 你想建设一个能承受500万PV/每天的网站吗? 500万PV是什么概念?服务器每秒要处理多少个请求才能应对?如果计算呢? PV是什么 ...

  7. 【阿里聚安全·安全周刊】500万台Android设备受感染|YouTube封杀枪支组装视频

    本周的七个关键词:  500万Android 设备受感染丨 黑客将矛头指向无线传输协议 丨  YouTube封杀枪支视频 丨 AMD将发布补丁 丨 Gooligan Android 僵尸网络 丨  N ...

  8. es定期删除数据

    es定期删除数据 1.定期删除索引 使用sentinl报警后,会产生大量如下索引,虽然不占空间,但时间久了也不好,故写个脚本定期删除 脚本如下: 1 #!/bin/bash 2 #只保留5天内的日志索 ...

  9. Mysql5.7 单表 500万数据迁移到新表的快速实现方案

    开发过程中需要把一个已有500万条记录的表数据同步到另一个新表中,刚好体验下Mysql官方推荐的大数据迁移的方案:SELECT INTO OUTFILE,LOAD DATA INFILE Mysql ...

随机推荐

  1. Android五大布局介绍&属性设置大全

    前言 在进行Android开发中,常常需要用到各种布局来进行UI的绘制,今天我们就来讲下Android开发中最常用的五大布局介绍和相关属性的设置. 目录 Android五大布局介绍&属性设置. ...

  2. js数组的处理

    //重写Array中的indexOf方法,获取数组中指定值的元素的索引 Array.prototype.indexOf = function (val) { for (var i = 0; i < ...

  3. python多进程和多线程编程

    17 多线程和多进程并发 The modules described in this chapter provide support for concurrent execution of code. ...

  4. 洛谷——P1073 最优贸易

    P1073 最优贸易 n 个城市间以 m 条有向道路连接, 小 T 从 1 号城市出发, 将要去往 n 号城市.小 T 观察到一款商品 Z 在不同的城市的价格可能不尽相同,小 T 想要在旅行中的某一个 ...

  5. 【阶梯报告】洛谷P3391【模板】文艺平衡树 splay

    [阶梯报告]洛谷P3391[模板]文艺平衡树 splay 题目链接在这里[链接](https://www.luogu.org/problemnew/show/P3391)最近在学习splay,终于做对 ...

  6. Re0:DP学习之路 数塔 HDU - 2084(基础递推)

    解法 首先是输入的问题,输入的时候还要注意每一层都有多少个 然后是怎么求解,一般求解首先要考虑顺序,是正序还是倒序 如果这个题是正序的话那么最终还需要将最后一行进行一次找max的运算 如果是倒序的话那 ...

  7. Linux---shell基本指令

    1. 显示当前目录 pwd wangzhengchao@ubuntu:~$ cd /home/wangzhengchao/Desktop/ wangzhengchao@ubuntu:~/Desktop ...

  8. PHP 计数排序

    计数排序不是基于比较的排序算法,其核心在于将输入的数据值转化为键存储在额外开辟的数组空间中. 作为一种线性时间复杂度的排序,计数排序要求输入的数据必须是有确定范围的整数. 算法描述 找出待排序的数组中 ...

  9. Django DTL模板语法中定义变量

  10. Spring 事务XML配置

    <!-- 配置 Spring 的声明式事务 --> <!-- 1. 配置事务管理器 --> <bean id="transactionManager" ...