Sunrise

`长路漫漫,唯剑作伴`


  • 首页

  • 关于

  • 标签

  • 分类

  • 归档

mongodb小技能

发表于 2019-08-08 | 分类于 数据库

MongoDB小技能

MongoDB导入导出

  • 数据导出

    MongoDB中的mongoexport工具可以把一个collection导出成JSON格式或CSV格式的文件。可以通过参数指定导出的数据项,也可以根据指定的条件导出数据。

    命令:

    mongoexport -d dbname -c collectionname -o file --type json/csv -f field

    参数说明:

​ -d :数据库名

​ -c :collection名

​ -o :输出的文件名

​ –type : 输出的格式,默认为json

​ -f :输出的字段,如果-type为csv,则需要加上-f “字段名”

阅读全文 »

ELK日志分析平台

发表于 2019-08-02 | 分类于 ELK

前段时间,对ELK做了一定的研习,中间踩了许多坑,全都是自己一个人一点点查阅资料解决的,在此做个记录,对logstash方面的记录比较多,其他关于elasticserarch或者kibana以后有了更深入的学习后,再来扩展。

Logstash

  • logstash 如何安装详细参考官网。在centos系统上,一般logstash配置文件目录为:/etc/logstash,
    执行文件目录为:/usr/share/logstash,logstash运行的日志目录:/var/log/messages;

  • logstash的运行依赖JVM,所以需要先安装jdk,安装好jdk后需要配置环境变量;

    在测试阶段,我们使用logstash命令启动程序,只要环境变量配置正确一般是没什么问题的,但是应用阶段我们一般是以服务形式来启动程序,如systemctl start logstash,这时可能会遇到报错的情况,找不到JAVA_HOME,使用以下命令可以解决:ln -s /usr/local/jdk1.8.0_181/bin/java /bin/java,意为:为/bin/java 建立一个软连接,需要的源文件在/usr/local/jdk1.8.0_181/bin/java 中,因为以服务方式启动logstash时,默认去/bin/java路径中寻找java源文件(JAVA_HOME供java命令使用,系统并不关心)。

阅读全文 »

python logging模块

发表于 2019-07-25 | 分类于 python编程

python logging模块 常用handlers

  • StreamHandler:流handler——包含在logging模块中的三个handler之一,主要用来屏幕打印日志。

  • FileHandler:logging模块自带的三个handler之一,继承自StreamHandler。将日志信息输出到磁盘文件上。

    构造函数:

    class logging.FileHandler(filename, mode='a', encoding=None, delay=False)

    模式默认为append,delay为true时,文件直到emit方法被执行才会打开。默认情况下,日志文件可以无限增大。

阅读全文 »

python爬虫

发表于 2019-07-09 | 分类于 爬虫

这篇文章的目的不是为了一步步教新手如何写python爬虫,只是记录自己在学习python爬虫过程中的使用的技术点和遇到的问题,做一个技术沉淀。

常用的工具与技术

Requests库,主要用来做HTTP请求,支持通过参数添加headers、cookie、proxy等,并且支持HTTP请求的许多类型如:PUT,DELETE,HEAD 以及 OPTIONS 等。简单易上手,功能也很强大。当然也可以使用python自带的urllib(python3)或urllib2(python2)。

BeautifulSoup库,主要用来做解析,可以从HTML或XML中提取数据,通过将HTML或XML转变为BeautifulSoup对象,并指定相应的解析器(html.parser,lxml,xml,html5lib),就可以调用BeautifulSoup内置的各种方法,进而从HTML或XML中获取我们想要提取的数据。

阅读全文 »

python正则表达式

发表于 2019-07-08 | 分类于 python编程

继上一篇博客python正则表达式后,此篇文章主要是重点记录”(?=)”(前向肯定界定符)、”(?!)”(前向否定界定符)、”(?<=)”(后项肯定界定符)以及”(?<!)”(后项否定界定符)的用法。

阅读全文 »

python正则表达式

发表于 2019-06-21 | 分类于 python编程

Python的re模块(Regular Expression正则表达式)提供各种正则表达式的匹配操作,和 Perl 脚本的正则表达式功能类似,使用这一内嵌于 Python 的语言工具,尽管不能满足所有复杂的匹配情况,但足够在绝大多数情况下能够有效地实现对复杂字符串的分析并提取出相关信息。

re模块

正则表达式使用反斜杠”\“来代表特殊形式或用作转义字符,这里跟python的语法冲突,因此用”\\“表示正则表达式中的”\“。为了使正则表达式具有更好的可读性,python设计了原始字符串(raw string),就是用’r’作为字符串前缀,如r”\n”:表示两个字符”\“和”n”,而不是换行符了。

阅读全文 »
1…1112
chenxi

chenxi

116 日志
11 分类
213 标签
Links
  • Docle
  • Swift
© 2025 chenxi
由 Hexo 强力驱动
|
主题 — NexT.Pisces v5.1.4