Just Do IT !

Just Do IT !

一个对技术永远充满热爱的大学生

win10下用IDEA+Hadoop运行时的环境搭建
构建win10下用IDEA运行Hadoop程序本地解压hadoop安装包如图 2.将hadoop添加到环境变量中 在Path变量中添加 下载winutils工具,将bin目录覆盖到解压的hadoop安装包中 3.在IDEA中构建新项目: 注意:IDEA必须下载专业版 打开之后: 如图 创建完项目之后,打开porn.xml文件: 添加配置项 123456789101112131415161718192021<?xml version="1.0" encoding="UTF-8"?><project xmlns="http://maven.apache.or...
在Centos 7下安装PHP 7
CentOS 7的官方软件源中,只有PHP 5.4这个官方已经不再提供技术支持的老版本。 不仅仅是为了安全原因,只是PHP 7中的那些新特性,就要求我们必须更新到新版本下。 启用EPEL和REMI软件源执行以下指令,分别安装EPEL和Remi软件源: yum install https://dl.fedoraproject.org/pub/epel/epel-release-latest-7.noarch.rpm yum install http://rpms.remirepo.net/enterprise/remi-release-7.rpm 安装yum包管理工具默认安装的yum软件包...
CentOS7关闭SELinux
查看[root@dev-server ~]# getenforce Disabled [root@dev-server ~]# /usr/sbin/sestatus -v SELinux status: disabled 临时关闭设置SELinux 成为permissive模式setenforce 1 设置SELinux 成为enforcing模式setenforce 0 永久关闭vi /etc/selinux/config 将SELINUX=enforcing改为SELINUX=disabled 设置后需要重启才能生效
解决vmware(vsphere)部署linux系统模板后无法联网问题
解决使用vmware(vsphere)部署linux的ova(ovf)模板后,会发现系统启动后无法联网。这是因为ifcfg-eth0配置文件中保存的MAC地址与当前系统实际的MAC地址不一致引起的。可通过如下步骤解决: 删除ifcfg-eth0配置文件中的HWADDR行 删除HWADDR所在行内容 删除70-persistent-net.rules文件 rm /etc/udev/rules.d/70-persistent-net.rules 重启网卡或者重启系统
JobTracker和TaskTracker
概述Hadoop MapReduce采用Master/Slave结构。 Master:是整个集群的唯一的全局管理者,功能包括:作业管理、状态监控和任务调度等,即MapReduce中的JobTracker。 Slave:负责任务的执行和任务状态的回报,即MapReduce中的TaskTracker。 JobTracker剖析概述:JobTracker是一个后台服务进程,启动之后,会一直监听并接收来自各个TaskTracker发送的心跳信息,包括资源使用情况和任务运行情况等信息JobTracker的主要功能 作业控制:在hadoop中每个应用程序被表示成一个作业,每个作业又被分成多个...
Windows下的MapReduce编程实现
统计某银行信用卡违约用户数量csv下载地址 违约规则:AY_1~PAY_6:PAY_1为2005年9月的还款情况;PAY_2为2005年8月的还款情况;…;PAY_6为2005年4月的还款情况。BILL_AMT1~BILL_AMT6和PAY_AMT1~PAY_AMT6中数字标识的含义也是如此。PAY_1~PAY_6的取值含义为:0 = 及时还;1 = 还款延迟一个月;2 = 还款延迟两个月;3 = 还款延迟三个月;…;9 = 还款延迟九个月及以上。每月的支付金额PAY_AMT不能低于银行规定的当月最低还款额,否则就是违约。如果支付金额PAY_AMT大于上月账单金额BILL_AMT则视为及...
HDFS文件接口
命令基本格式:hadoop fs -cmd < args > ls hadoop fs -ls / 列出hdfs文件系统根目录下的目录和文件 hadoop fs -ls -R / 列出hdfs文件系统所有的目录和文件 put hadoop fs -put < local file > < hdfs file > hdfs file的父目录一定要存在,否则命令不会执行 hadoop fs -put < local file or dir >...< hdfs dir > hdfs dir 一定要存在,否则命令不会执...
Mysql(双主)主主架构配置
前言本次搭建Mysql主主架构基于我的keepalived+nginx+apache+mysql实现高可用、负载均衡的网站/#more)这篇文章 在搭建主主配置之前我们先介绍介绍mysql主从方案 mysql主从方案,有一主多从,读写分离等功能,但是单主存在单点故障,从库切换成主库需要作改动等缺点。 因此,如果是双主或者多主,就会增加mysql入口,增加高可用。 不过多主需要考虑自增长ID问题,这个需要特别设置配置文件,比如双主,可以使用奇偶,总之,主之间设置自增长ID相互不冲突就能完美解决自增长ID冲突问题。 MySQL双主(主主)架构方案思路是: 两台mysql都可读写,互为主备,...
Centos7 防火墙关闭与nginx无法访问
默认情况下,Centos7防火墙是打开的,如果你没有关闭他,你安装nginx后启动,是无法访问到nginx服务的。 所以需要做这件事 启动nginx启动前先看它启动没有,通过linux命令查看所有端口,看看有没有80 netstat -ntlp 如果没有,则通过命令启动 sudo systemctl start nginx.service 设置nginx开启启动sudo chkconfig nginx on 关闭Centos自带的firewall防火墙systemctl stop firewalld.service #停止firewall 禁止Firewall下次启动systemctl ...
Linux下进程kill掉的N种方法
原因我在Liunx安装Apache服务时,遇到 有进程存在,本进程原地等待 导致此状况原因可能是我一开始没有联网直接运行 yum install -y httpd 导致该进程一直占用资源,pid被锁定 解决方法常规篇首先,用ps查看进程,方法如下: ps -ef查看详情 此时如果我想杀了yum的进程就在终端输入: kill -s 9 2457 其中-s 9 制定了传递给进程的信号是9,即强制、尽快终止进程。 2457则是上面ps查到的yum的PID 杀死其他yum进程后,yum便能正常运行 进阶篇把ps的查询结果通过管道给grep查找包含特定字符串的进程。管道符“|”用来隔开两...
avatar
浩翰Redamancy
文质彬彬 然后君子
FRIENDS
My CSDN