mapper的map方法,mappermap方法

1. mapper四个泛型为什么这么选取?

mapper四个泛型选取原因：

1、LongWritable：表示worder传入KEY的数据类型，默认是一行起始偏移量。

2、Text：表示worder传入VALUE的数据类型，默认是下一行的文本内容。

3、Test：表示自己map方法产生产生的结果数据类型KEY。

4、FlowBean:表示自己map方法产生的结果数据的VALUE类型。

C# 引用AutoMapper提示Mapper类不具有CreateMap方法，怎么解决？

对于C# 引用AutoMapper提示Mapper类不具有CreateMap方法：

先创建一个空的解决方案

2.创建一个C++的名称为CPPDemo的win32项目，

3.打开源文件里面的CPPDemo.cpp文件添加加减乘除方法，改方法都是使用的C++语言来写的

4.添加一个名称为CSharpDemo的C#的控制台应用程序

5.在控制台应用程序里添加一个名称为CPPDLL的类

6.在CPPDLL的类里面添加调用DLL方法的代码

7.打开控制台程序的入口方法，添加代码进行方法引用

8.然后点击C++项目，右击点出来属性，在属性常规里面修改输出目录，浏览选择到控制台程序下的bin文件夹下的 Debug文件夹然后确定保存

9.再来就是重新生成一下解决方案，就会生成一个名称为CPPDemo.dll的文件在上一步选择的路径下了

10.最后，设置控制台应用程序为启动项，运行，如运行结果如图则调用加减乘除方法已成功

拓展C++技巧：

1.C++是最难的语言，也是最有用的语言。你千万不要以为几天就可以学好C++，C++的学习曲线是相当BT的，你可以看看这篇文章。C++是一门很自由的语言，自由到了有点BT和恐怖的地步。我甚至认为C++并不是一门成熟的编程语言，因为太容易犯错了。所以，你一定要在一开始就要有很小心谨慎的态度，并把C++当成一种难以训服的猛兽来看待。

2.找一本好的书本教材，辅助看教学视频。

好的教材，可以让你更快更好的进入C++的世界。在校学生的话，你们的教材通常都是不错的。如果是自学，作者个人推荐《21天学通C++》一书。青少年的话，推荐看信息学奥赛培训教程《C++培训教程》，适合青少年。看视频是学习比较直观的方式。建议先看课本，不懂的地方，更看视频，这样效果更好。推荐看孙鑫的教学视频。

3.多问“为什么要这样”的问题。学习C++一定要多问几个“为什么是这样”，“凭什么要这样”的问题。比如：很多人知道C++有拷贝构造函数和初始化列表，但你真的知道为什么要有拷贝构造函数？为什么要有初始化列表吗？为什么要有template，为什么要有 RTTI，为什么不是别的呢？难道就是为了让一门语言变得Cool一些吗？完全不是这样的，C++中的任何一个feature都有些实实在在的原因，你一定要去了解为什么要把C++设计成这样的原因，你才能学好C++。有空看看《C++演化和设计》一书。

4.看书，大量的C++书。了解C++的语法仅仅是万里长征的第一步，你还需要看看《Effective C++》和《More Effective C++》这两本书并不厚，但我从02年就一直看到现在，每次读我都有新的体会，这两本书太经典了。如果你对C语言不熟，这两本书会让你回去补C语言的课。《Think in C++》同样是另一本经典之极的书，学c++必读，但是中文版的翻译得很不好，所以还是去读英文版的吧。

5.选择合适的开发环境。自C++诞生以来，出现了很多编程环境。

综合界面友好、易用性等，开始学习C++时，推荐使用经典的Visual C++ 6.0开发环境，至今还在广泛的使用。

当你觉得C++已经比较深入时，可以改成Visual Studio。这个开发环境里集成了大量的C++类库和开发工具，使得你可以快速开发出高水平的软件。

6.和Java语言做对比。

我个人以为Java对C++这个并不成熟的语言做了很多调整，规范和限制。所以，对比一下Java和C++，想一想，为什么一些东西在C++中可以做，但在Java中却不行。比如：Java的异常是必需要catch的，不然就会编译不通过。为什么Java不提供操作符重载？为会Java会引入接口来做多重继承？等等。Java体现着很多面向对象设计的东西，学习Java有助于你学会怎么更好地使用C++来编程。

mapreduce中map是怎么做的？参数又是怎么解析传递给map方法的

1.首先介绍一下wordcount 早mapreduce框架中的 对应关系

大家都知道 mapreduce 分为 map 和reduce 两个部分，那么在wordcount例子中，很显然 对文件word 计数部分为map，对 word 数量累计部分为 reduce；

大家都明白 map接受一个参数，经过map处理后，将处理结果作为reduce的入参分发给reduce，然后在reduce中统计了word 的数量，最终输出到输出结果；

但是初看遇到的问题：

一、map的输入参数是个 Text之类的 对象，并不是 file对象

二、reduce中并没有if-else之类的判断语句 ，来说明 这个word 数量 加 一次，那个word 加一次。那么这个判断到底只是在 map中已经区分了 还是在reduce的时候才判断的

三、map过程到底做了什么，reduce过程到底做了什么？为什么它能够做到多个map多个reduce？

一、

1. 怎么将 文件参数 传递 到 job中呢？

在 client 我们调用了FileInputFormat.addInputPath(job, new Path(otherArgs[0]));

实际上 addInputPath 做了以下的事情（将文件路径加载到了conf中）

public static void addInputPath(Job job,

Path path) throws IOException {

Configuration conf = job.getConfiguration();

path = path.getFileSystem(conf).makeQualified(path);

String dirStr = StringUtils.escapeString(path.toString());

String dirs = conf.get(INPUT_DIR);

conf.set(INPUT_DIR, dirs == null ? dirStr : dirs + "," + dirStr);

}

我们再来看看 FileInputFormat 是做什么用的， FileInputFormat 实现了 InputFormat 接口 ，这个接口是hadoop用来接收客户端输入参数的。所有的输入格式都继承于InputFormat，这是一个抽象类，其子类有专门用于读取普通文件的FileInputFormat，用来读取数据库的DBInputFormat等等。

我们会看到 在 InputFormat 接口中 有getSplits方法，也就是说分片操作实际上实在 map之前 就已经做好了

ListInputSplitgetSplits(JobContext job)

Generate the list of files and make them into FileSplits.

具体实现参考 FileInputFormat getSplits 方法：

上面是FileInputFormat的getSplits()方法，它首先得到分片的最小值minSize和最大值maxSize，它们会被用来计算分片大小。可以通过设置mapred.min.split.size和mapred.max.split.size来设置。splits链表用来存储计算得到的输入分片，files则存储作为由listStatus()获取的输入文件列表。然后对于每个输入文件，判断是否可以分割，通过computeSplitSize计算出分片大小splitSize,计算方法是：Math.max(minSize, Math.min(maxSize, blockSize));也就是保证在minSize和maxSize之间，且如果minSize=blockSize=maxSize，则设为blockSize。然后我们根据这个splitSize计算出每个文件的inputSplits集合，然后加入分片列表splits中。注意到我们生成InputSplit的时候按上面说的使用文件路径，分片起始位置，分片大小和存放这个文件的hosts列表来创建。最后我们还设置了输入文件数量：mapreduce.input.num.files。

二、计算出来的分片有时怎么传递给 map呢 ？对于单词数量如何累加？

我们使用了 就是InputFormat中的另一个方法createRecordReader() 这个方法：

RecordReader：

RecordReader是用来从一个输入分片中读取一个一个的K -V 对的抽象类，我们可以将其看作是在InputSplit上的迭代器。我们从API接口中可以看到它的一些方法，最主要的方法就是nextKeyvalue()方法，由它获取分片上的下一个K-V 对。

可以看到接口中有：

public abstract boolean nextKeyValue() throws IOException, InterruptedException;

public abstract KEYIN getCurrentKey() throws IOException, InterruptedException;

public abstract VALUEIN getCurrentValue() throws IOException, InterruptedException;

public abstract float getProgress() throws IOException, InterruptedException;

public abstract void close() throws IOException;

FileInputFormatK,V

Direct Known Subclasses:

CombineFileInputFormat, KeyValueTextInputFormat, NLineInputFormat, SequenceFileInputFormat, TextInputFormat

对于 wordcount 测试用了 NLineInputFormat和 TextInputFormat 实现类

在 InputFormat 构建一个 RecordReader 出来，然后调用RecordReader initialize 的方法，初始化RecordReader 对象

那么 到底 Map是怎么调用 的呢？ 通过前边我们 已经将 文件分片了，并且将文件分片的内容存放到了RecordReader中，

下面继续看看这些RecordReader是如何被MapReduce框架使用的

终于 说道 Map了 ，我么如果要实现Map 那么 一定要继承 Mapper这个类

public abstract class Context

implements MapContextKEYIN,VALUEIN,KEYOUT,VALUEOUT {

}

protected void setup(Context context) throws IOException, InterruptedException

protected void map(KEYIN key, VALUEIN value, Context context) throws IOException,InterruptedException { }

protected void cleanup(Context context ) throws IOException, InterruptedException { }

public void run(Context context) throws IOException, InterruptedException { }

我们写MapReduce程序的时候，我们写的mapper都要继承这个Mapper.class，通常我们会重写map()方法，map()每次接受一个K-V对，然后我们对这个K-V对进行处理，再分发出处理后的数据。我们也可能重写setup()以对这个map task进行一些预处理，比如创建一个List之类的；我们也可能重写cleanup()方法对做一些处理后的工作，当然我们也可能在cleanup()中写出K-V对。举个例子就是：InputSplit的数据是一些整数，然后我们要在mapper中算出它们的和。我们就可以在先设置个sum属性，然后map()函数处理一个K-V对就是将其加到sum上，最后在cleanup()函数中调用context.write(key,value);

最后我们看看Mapper.class中的run()方法，它相当于map task的驱动，我们可以看到run()方法首先调用setup()进行初始操作，然后对每个context.nextKeyValue()获取的K-V对，就调用map()函数进行处理，最后调用cleanup()做最后的处理。事实上，从context.nextKeyValue()就是使用了相应的RecordReader来获取K-V对的。

我们看看Mapper.class中的Context类，它继承与MapContext，使用了一个RecordReader进行构造。下面我们再看这个MapContext。

public MapContextImpl(Configuration conf, TaskAttemptID taskid,

RecordReaderKEYIN,VALUEIN reader,

RecordWriterKEYOUT,VALUEOUT writer,

OutputCommitter committer,

StatusReporter reporter,

InputSplit split) {

super(conf, taskid, writer, committer, reporter);

this.reader = reader;

this.split = split;

}

RecordReader 看来是在这里构造出来了， 那么 是谁调用这个方法，将这个承载着关键数据信息的 RecordReader 传过来了 ？

我们可以想象 这里 应该被框架调用的可能性比较大了，那么mapreduce 框架是怎么分别来调用map和reduce呢？

还以为分析完map就完事了，才发现这里仅仅是做了mapreduce 框架调用前的一些准备工作，

还是继续分析 下 mapreduce 框架调用吧：

1.在 job提交 任务之后 首先由jobtrack 分发任务，

在 任务分发完成之后 ，执行 task的时候，这时 调用了 maptask 中的 runNewMapper

在这个方法中调用了 MapContextImpl， 至此 这个map 和框架就可以联系起来了。