查看: 938|回复: 0

[Java学习] Java编程实现用hash方法切割文件

发表于 2018-1-5 08:00:00

Hash,一般翻译做“散列”,也有直接音译为“哈希”的,就是把任意长度的输入(又叫做预映射, pre-image),通过散列算法,变换成固定长度的输出,该输出就是散列值。这种转换是一种压缩映射,也就是,散列值的空间通常远小于输入的空间,不同的输入可能会散列成相同的输出,所以不可能从散列值来唯一的确定输入值。简单的说就是一种将任意长度的消息压缩到某一固定长度的消息摘要的函数。

如果有大型数据文件(如每行为url或者ip或者单词等的),以G为单位的,处理的时候需先切分。普通切分方法直接根据数据条数切分,得到的每个文件大小相近。

但是有时需要将相同数据放到相同文件中。可以使用hash切分法。

  1. public class Test {
  2. static int HASHLEN = 1000;
  3. public static void main(String[] args) {
  4. // TODO Auto-generated method stub
  5. String words [] = {"yes" ,"an" ,"go"};
  6. for(String word:words){
  7. int temp = hash(word.toCharArray());
  8. System.out.println(temp);
  9. }
  10. }
  11. public static int hash(char[] word) {
  12. int index = 0;
  13. int i=0;
  14. while(i<word.length) {
  15. index += index * 31 + word[i];
  16. i++;
  17. }
  18. return index % HASHLEN;
  19. }
  20. }
复制代码

总结

以上就是本文关于java编程实现用hash方法切割文件的全部内容,希望对大家有所帮助。感兴趣的朋友可以继续参阅本站其他相关专题,如有不足之处,欢迎留言指出。



回复

使用道具 举报