首页 > 代码库 > Linkedin工程师是如何优化他们的Java代码的

Linkedin工程师是如何优化他们的Java代码的

2024-08-06 17:44:58   218人阅读

最近在刷各大公司的技术博客的时候，我在Linkedin的技术博客上面发现了一篇很不错博文。这篇博文介绍了Linkedin信息流中间层Feed Mixer，它为Linkedin的Web主页，大学主页，公司主页以及客户端等多个分发渠道提供支撑（如下图所示）。

 

在Feed Mixer里面用到了一个叫做SPR（念“super”）的库。博文讲的就是如何优化SPR的java代码。下面就是他们总结的优化经验。

. 谨慎对待Java的循环遍历

 

Java中的列表遍历可比它看起来要麻烦多了。就以下面两段代码为例：

  • A:
    [java] view plaincopyprint?在CODE上查看代码片派生到我的代码片
    1. private final List<Bar> _bars;  
    2. for(Bar bar : _bars) {  
    3.     //Do important stuff  
    4. }  


     
  • B:
    [java] view plaincopyprint?在CODE上查看代码片派生到我的代码片
    1. privatefinalList<Bar>_bars;  
    2. for(inti=0;i<_bars.size();i++){  
    3. Barbar=_bars.get(i);  
    4. //Do important stuff  
    5. }  

代码A执行的时候 会为这个抽象列表创建一个迭代器，而代码B就直接使用 get(i) 来获取元素，相对于代码A省去了迭代器的开销。

实际上这里还是需要一些权衡的。代码A使用了迭代器，保证了在获取元素的时候的时间复杂度是 O(1) （使用了 getNext() 和 hasNext() 方法），最终的时间复杂度为 O(n) 。但是对于代码B，循环里每次在调用 _bars.get(i) 的时候花费的时间复杂度为 O(n)  (假设这个list为一个 LinkedList)，那么最终代码B整个循环的时间复杂度就是 O(n^2)  (但如果代码B里面的list是 ArrayList， 那 get(i) 方法的时间复杂度就是 O(1)了)。所以在决定使用哪一种遍历的方式的时候，我们需要考虑列表的底层实现，列表的平均长度以及所使用的内存。最后因为我们需要优化内存，再加上 ArrayList 在大多数情况下查找的时间复杂度为 O(1) ，最后决定选择代码B所使用的方法。

2.在初始化的时候预估集合的大小

从Java的这篇 文档我们可以了解到: “一个HashMap 实例有两个影响它性能的因素：初始大小和加载因子（load factor）。 […] 当哈希表的大小达到初始大小和加载因子的乘积的时候，哈希表会进行 rehash操作 […] 如果在一个HashMap 实例里面要存储多个映射关系时，我们需要设置足够大的初始化大小以便更有效地存储映射关系而不是让哈希表自动增长让后rehash，造成性能瓶颈。”

在Linkedin实践的时候，常常碰到需要遍历一个 ArrayList 并将这些元素保存到 HashMap 里面去。将这个 HashMap 初始化预期的大小可以避免再次哈希所带来的开销。初始化大小可以设置为输入的数组大小除以默认加载因子的结果值（这里取0.7）：

  • 优化前的代码：
    [java] view plaincopyprint?在CODE上查看代码片派生到我的代码片
    1. HashMap<String,Foo> _map;  
    2. void addObjects(List<Foo> input)  
    3. {  
    4.   _map = new HashMap<String, Foo>();   
    5.   for(Foo f: input)  
    6.   {  
    7.     _map.put(f.getId(), f);  
    8.   }  
    9. }  


     

     

     
  • 优化后的代码
    [java] view plaincopyprint?在CODE上查看代码片派生到我的代码片
    1. HashMap<String,Foo>_map;  
    2. voidaddObjects(List<Foo>input)  
    3. {  
    4. _map=newHashMap<String,Foo>((int)Math.ceil(input.size()/0.7));  
    5. for(Foof:input)  
    6. {  
    7. _map.put(f.getId(),f);  
    8. }  
    9. }  


     

     

     

3. 延迟表达式的计算

在Java中，所有的方法参数会在方法调用之前，只要有方法参数是一个表达式的都会先这个表达式进行计算（从左到右）。这个规则会导致一些不必要的操作。考虑到下面一个场景：使用ComparisonChain比较两个 Foo 对象。使用这样的比较链条的一个好处就是在比较的过程中只要一个 compareTo 方法返回了一个非零值整个比较就结束了，避免了许多无谓的比较。例如现在这个场景中的要比较的对象最先考虑他们的score, 然后是 position, 最后就是 _bar 这个属性了：

[java] view plaincopyprint?在CODE上查看代码片派生到我的代码片
  1. public class Foo {  
  2. private float _score;  
  3. private int _position;  
  4. private Bar _bar;  
  5.    
  6. public int compareTo (Foo other) {  
  7. return ComparisonChain.start().  
  8. compare(_score, other.getScore()).  
  9. compare(_position, other.getPosition()).  
  10. compare(_bar.toString(), other.getBar().toString()).   
  11. result;  
  12. }  
  13. }  

 

但是上面这种实现方式总是会先生成两个 String 对象来保存 bar.toString() 和other.getBar().toString() 的值，即使这两个字符串的比较可能不需要。避免这样的开销，可以为Bar 对象实现一个 comparator：

[java] view plaincopyprint?在CODE上查看代码片派生到我的代码片
  1. publicclassFoo{  
  2. privatefloat_score;  
  3. privateint_position;  
  4. privateBar_bar;  
  5. privatefinalBarComparatorBAR_COMPARATOR=newBarComparator();  
  6.    
  7. publicintcompareTo(Fooother){  
  8. returnComparisonChain.start().  
  9. compare(_score,other.getScore()).  
  10. compare(_position,other.getPosition()).  
  11. compare(_bar,other.getBar(),BAR_COMPARATOR).  
  12. result();  
  13. }  
  14. privatestaticclassBarComparatorimplementsComparator<Bar>{  
  15. @Override  
  16. publicintcompare(Bara,Barb){  
  17. returna.toString().compareTo(b.toString());  
  18. }  
  19. }  
  20. }  

 

 

 

4. 提前编译正则表达式

字符串的操作在Java中算是开销比较大的操作。还好Java提供了一些工具让正则表达式尽可能地高效。动态的正则表达式在实践中比较少见。在接下来要举的例子中，每次调用String.replaceAll() 都包含了一个常量模式应用到输入值中去。因此我们预先编译这个模式可以节省CPU和内存的开销。

  • 优化前：
    [java] view plaincopyprint?在CODE上查看代码片派生到我的代码片
    1. private String transform(String term) {  
    2. return outputTerm = term.replaceAll(_regex, _replacement);   
    3. }  

     

     
  • 优化后：
    [java] view plaincopyprint?在CODE上查看代码片派生到我的代码片
    1. privatefinalPattern_pattern=Pattern.compile(_regex);  
    2. privateStringtransform(Stringterm){  
    3. StringoutputTerm=_pattern.matcher(term).replaceAll(_replacement);  
    4. }  

     

     

5. 尽可能地缓存Cache it if you can

将结果保存在缓存里也是一个避免过多开销的方法。但缓存只适用于在相同数据集撒花姑娘吗的相同数据操作（比如对一些配置的预处理或者一些字符串处理）。现在已经有多种LRU（Least Recently Used ）缓存算法实现，但是Linkedin使用的是 Guava cache (具体原因见这里) 大致代码如下：

[java] view plaincopyprint?在CODE上查看代码片派生到我的代码片
  1. privatefinalintMAX_ENTRIES=1000;  
  2. privatefinalLoadingCache<String,String>_cache;  
  3. // Initializing the cache  
  4. _cache=CacheBuilder.newBuilder().maximumSize(MAX_ENTRIES).build(newCacheLoader<String,String>(){  
  5. @Override  
  6. publicStringload(Stringkey)throwsException{  
  7. returnexpensiveOperationOn(key);  
  8. }  
  9. }  
  10. );  
  11.    
  12. //Using the cache  
  13. Stringoutput=_cache.getUnchecked(input);  

 

 

 

6. String的intern方法有用，但是也有危险

String 的 intern 特性有时候可以代替缓存来使用。

从这篇文档，我们可以知道：
“A pool of strings, initially empty, is maintained privately by the class String. When the intern method is invoked, if the pool already contains a string equal to this String object as determined by the equals(Object) method, then the string from the pool is returned. Otherwise, this String object is added to the pool and a reference to this String object is returned”.

这个特性跟缓存很类似，但有一个限制，你不能设置最多可容纳的元素数目。因此，如果这些intern的字符串没有限制（比如字符串代表着一些唯一的id），那么它会让内存占用飞速增长。Linkedin曾经在这上面栽过跟头——当时是对一些键值使用intern方法，线下模拟的时候一切正常，但一旦部署上线，系统的内存占用一下就升上去了（因为大量唯一的字符串被intern了）。所以最后Linkedin选择使用 LRU 缓存，这样可以限制最大元素数目。

最终结果

SPR的内存占用减少了75%，进而将feed-mixer的内存占用减少了 50% (如下图所示)。这些优化减少了对象的生成，进而减少了GC得频率，整个服务的延迟就减少了25%。

Linkedin工程师是如何优化他们的Java代码的


联系
我们