大数据是目前互联网流行的技术語言处理大数据的编程语言比较有优势的也很多，比如java、python 大数据库、go、R语言、Hadoop等等按道理来说每种编程语言都可以处理大数据，只是處理的规模不一样而且但是现在比较受欢迎的数据处理编程语言是java与python 大数据库。

说到java编程java工程师一直都是同行的高薪岗位，而python 大数据庫是从最初的2016人工智能开始爆发从而在短短两年之内能赶超java。随着python 大数据库的发展最大赢家无疑是python 大数据库。未来大数据是对于一家企业有多重要通过对数据的分析，可以了解市场需求、发展方向对公司未来的定位，把数量庞大、不规整的数据信息进行梳理总结絀可供查询的特征。

自从python 大数据库热度赶超java之后python 大数据库在大数据方面的优势逐渐被人们认识，但是java作为20多年成熟的编程语言在大数據处理方面已存在已久，依然是程序员开发比较喜爱的编程

java在大数据处理方面还是比较倾向软件应用与网站数据，包括游戏数据处理特别是金融服务数据处理，一直都是java的强项；python 大数据库有着众多免费科学算法库优势在人工智能大数据处理，当然也有使用python 大数据库在銀行的基础架构中处理财务数据可以说java与python 大数据库在大数据处理各有优势。

处理大规模数据时有那些常用的python 大数据库库他们有什么优缺点？适用范围如何

王守崑 有意 NLP/对话机器人方向的朋友请联系我

需要澄清两点之后才可以比较全面的看这个问题：

1、百万行级不算大数據量，以目前的互联网应用来看大数据量的起点是10亿条以上。

2. 处理的具体含义如果是数据载入和分发，用python 大数据库是很高效的；如果昰求一些常用的统计量和求一些基本算法的结果python 大数据库也有现成的高效的库，C实现的和并行化的；如果是纯粹自己写的算法没有任哬其他可借鉴的，什么库也用不上用纯python 大数据库写是自讨苦吃。

python 大数据库的优势不在于运行效率而在于开发效率和高可维护性。针对特定的问题挑选合适的工具本身也是一项技术能力。

百万级别数据是小数据python 大数据库处理起来不成问题，python 大数据库处理数据还是有些問题的

python 大数据库处理大数据的劣势：

1、python 大数据库线程有gil通俗说就是多线程的时候只能在一个核上跑，浪费了多核服务器在一种常见的場景下是要命的：并发单元之间有巨大的数据共享或者共用(例如大dict)，多进程会导致内存吃紧多线程则解决不了数据共享的问题，单独的寫一个进程之间负责维护读写这个数据不仅效率不高而且麻烦

2、python 大数据库执行效率不高在处理大数据的时候，效率不高这是真的，pypy(一個jit的python 大数据库解释器可以理解成脚本语言加速执行的东西)能够提高很大的速度，但是pypy不支持很多python 大数据库经典的包例如numpy(顺便给pypy做做广告，土豪可以捐赠一下PyPy - Call for donations)

3、绝大部分的大公司用java处理大数据不管是环境也好，积累也好都会好很多

python 大数据库处理数据的优势(不是处理大數据)：

1、异常快捷的开发速度，代码量巨少

2、丰富的数据处理包不管正则也好，html解析啦xml解析啦，用起来非常方便

3、内部类型使用成本巨低不需要额外怎么操作(java，c++用个map都很费劲)

4、公司中很大量的数据处理工作工作是不需要面对非常大的数据的

5、巨大的数据不是语言所能解决的，需要处理数据的框架(hadoop mpi。。)虽然小众，但是python 大数据库还是有处理大数据的框架的或者一些框架也支持python 大数据库

6、编码问題处理起来太太太方便了

1、python 大数据库可以处理大数据

2、python 大数据库处理大数据不一定是最优的选择

3. python 大数据库和其他语言(公司主推的方式)并行使用是非常不错的选择

4. 因为开发速度，你如果经常处理数据而且喜欢linux终端，而且经常处理不大的数据(100m一下)最好还是学一下python 大数据库

python 大數据库数据处理的包：

1、自带正则包， 文本处理足够了

12，35是处理文本数据的利器(python 大数据库不就处理文本数据方便嘛)，46是并行计算的框架(大数据处理的效率在于良好的分布计算逻辑，而不是什么语言)

暂时就这些最好说一个方向，否则不知