Spring Boot 记录请求响应日志的常用手段

开发 架构
某些业务需求需要追踪我们的接口访问情况,也就是把请求和响应记录下来。基本的记录维度包含了请求入参(路径query参数,请求体)、请求路径(uri)、请求方法(method)、请求头(headers)以及响应状态、响应头、甚至包含了敏感的响应体等等。今天总结了几种方法,你可以按需选择。

[[416714]]

某些业务需求需要追踪我们的接口访问情况,也就是把请求和响应记录下来。基本的记录维度包含了请求入参(路径query参数,请求体)、请求路径(uri)、请求方法(method)、请求头(headers)以及响应状态、响应头、甚至包含了敏感的响应体等等。今天总结了几种方法,你可以按需选择。

请求追踪的实现方式

网关层

很多网关设施都具有httptrace的功能,可以帮助我们集中记录请求流量的情况。Orange、Kong、Apache Apisix这些基于Nginx的网关都具有该能力,就连Nginx本身也提供了记录httptrace日志的能力。

优点是可以集中的管理httptrace日志,免开发;缺点是技术要求高,需要配套的分发、存储、查询的设施。

Spring Boot Actuator

在Spring Boot中,其实提供了简单的追踪功能。你只需要集成:

  1. <dependency> 
  2.     <groupId>org.springframework.boot</groupId> 
  3.     <artifactId>spring-boot-starter-actuator</artifactId> 
  4. </dependency> 

开启/actuator/httptrace:

  1. management: 
  2.   endpoints: 
  3.     web: 
  4.       exposure: 
  5.         include: 'httptrace' 

就可以通过http://server:port/actuator/httptrace获取最近的Http请求信息了。

不过在最新的版本中可能需要显式的声明这些追踪信息的存储方式,也就是实现HttpTraceRepository接口并注入Spring IoC。

例如放在内存中并限制为最近的100条(不推荐生产使用):

  1. @Bean 
  2. public HttpTraceRepository httpTraceRepository(){ 
  3.     return new InMemoryHttpTraceRepository(); 

追踪日志以json格式呈现:

Spring Boot Actuator记录的httptrace

记录的维度不多,当然如果够用的话可以试试。

优点在于集成起来简单,几乎免除开发;缺点在于记录的维度不多,而且需要搭建缓冲消费这些日志信息的设施。

CommonsRequestLoggingFilter

Spring Web模块还提供了一个过滤器CommonsRequestLoggingFilter,它可以对请求的细节进行日志输出。配置起来也比较简单:

  1. @Bean 
  2. CommonsRequestLoggingFilter  loggingFilter(){ 
  3.     CommonsRequestLoggingFilter loggingFilter = new CommonsRequestLoggingFilter(); 
  4.     // 记录 客户端 IP信息 
  5.     loggingFilter.setIncludeClientInfo(true); 
  6.     // 记录请求头 
  7.     loggingFilter.setIncludeHeaders(true); 
  8.     // 如果记录请求头的话,可以指定哪些记录,哪些不记录 
  9.     // loggingFilter.setHeaderPredicate(); 
  10.     // 记录 请求体  特别是POST请求的body参数 
  11.     loggingFilter.setIncludePayload(true); 
  12.     // 请求体的大小限制 默认50 
  13.     loggingFilter.setMaxPayloadLength(10000); 
  14.     //记录请求路径中的query参数  
  15.     loggingFilter.setIncludeQueryString(true); 
  16.     return loggingFilter; 

而且必须开启对CommonsRequestLoggingFilter的debug日志:

  1. logging: 
  2.   level
  3.     org: 
  4.       springframework: 
  5.         web: 
  6.           filter: 
  7.             CommonsRequestLoggingFilter: debug 

一次请求会输出两次日志,一次是在第一次经过过滤器前;一次是完成过滤器链后。

CommonsRequestLoggingFilter记录请求日志

这里多说一句其实可以改造成输出json格式的。

优点是灵活配置、而且对请求追踪的维度全面,缺点是只记录请求而不记录响应。

ResponseBodyAdvice

Spring Boot统一返回体其实也能记录,需要自行实现。这里借鉴了CommonsRequestLoggingFilter解析请求的方法。响应体也可以获取了,不过响应头和状态因为生命周期还不清楚,这里获取还不清楚是否合适,不过这是一个思路。

  1. /** 
  2.  * @author felord.cn 
  3.  * @since 1.0.8.RELEASE 
  4.  */ 
  5. @Slf4j 
  6. @RestControllerAdvice(basePackages = {"cn.felord.logging"}) 
  7. public class RestBodyAdvice implements ResponseBodyAdvice<Object> { 
  8.     private static final int DEFAULT_MAX_PAYLOAD_LENGTH = 10000; 
  9.     public static final String REQUEST_MESSAGE_PREFIX = "Request ["
  10.     public static final String REQUEST_MESSAGE_SUFFIX = "]"
  11.     private ObjectMapper objectMapper = new ObjectMapper(); 
  12.  
  13.     @Override 
  14.     public boolean supports(MethodParameter returnType, Class<? extends HttpMessageConverter<?>> converterType) { 
  15.         return true
  16.     } 
  17.  
  18.     @SneakyThrows 
  19.     @Override 
  20.     public Object beforeBodyWrite(Object body, 
  21.                                   MethodParameter returnType, 
  22.                                   MediaType selectedContentType, 
  23.                                   Class<? extends HttpMessageConverter<?>> selectedConverterType, 
  24.                                   ServerHttpRequest request, 
  25.                                   ServerHttpResponse response) { 
  26.  
  27.         ServletServerHttpRequest servletServerHttpRequest = (ServletServerHttpRequest) request; 
  28.  
  29.         log.debug(createRequestMessage(servletServerHttpRequest.getServletRequest(), REQUEST_MESSAGE_PREFIX, REQUEST_MESSAGE_SUFFIX)); 
  30.         Rest<Object> objectRest; 
  31.         if (body == null) { 
  32.             objectRest = RestBody.okData(Collections.emptyMap()); 
  33.         } else if (Rest.class.isAssignableFrom(body.getClass())) { 
  34.             objectRest = (Rest<Object>) body; 
  35.         } 
  36.         else if (checkPrimitive(body)) { 
  37.             return RestBody.okData(Collections.singletonMap("result", body)); 
  38.         }else { 
  39.             objectRest = RestBody.okData(body); 
  40.         } 
  41.         log.debug("Response Body ["+ objectMapper.writeValueAsString(objectRest) +"]"); 
  42.         return objectRest; 
  43.     } 
  44.  
  45.  
  46.     private boolean checkPrimitive(Object body) { 
  47.         Class<?> clazz = body.getClass(); 
  48.         return clazz.isPrimitive() 
  49.                 || clazz.isArray() 
  50.                 || Collection.class.isAssignableFrom(clazz) 
  51.                 || body instanceof Number 
  52.                 || body instanceof Boolean 
  53.                 || body instanceof Character 
  54.                 || body instanceof String; 
  55.     } 
  56.  
  57.  
  58.     protected String createRequestMessage(HttpServletRequest request, String prefix, String suffix) { 
  59.         StringBuilder msg = new StringBuilder(); 
  60.         msg.append(prefix); 
  61.         msg.append(request.getMethod()).append(" "); 
  62.         msg.append(request.getRequestURI()); 
  63.  
  64.  
  65.         String queryString = request.getQueryString(); 
  66.         if (queryString != null) { 
  67.             msg.append('?').append(queryString); 
  68.         } 
  69.  
  70.  
  71.         String client = request.getRemoteAddr(); 
  72.         if (StringUtils.hasLength(client)) { 
  73.             msg.append(", client=").append(client); 
  74.         } 
  75.         HttpSession session = request.getSession(false); 
  76.         if (session != null) { 
  77.             msg.append(", session=").append(session.getId()); 
  78.         } 
  79.         String user = request.getRemoteUser(); 
  80.         if (user != null) { 
  81.             msg.append(", user=").append(user); 
  82.         } 
  83.  
  84.         HttpHeaders headers = new ServletServerHttpRequest(request).getHeaders(); 
  85.         msg.append(", headers=").append(headers); 
  86.  
  87.         String payload = getMessagePayload(request); 
  88.         if (payload != null) { 
  89.             msg.append(", payload=").append(payload); 
  90.         } 
  91.  
  92.         msg.append(suffix); 
  93.         return msg.toString(); 
  94.     } 
  95.  
  96.     protected String getMessagePayload(HttpServletRequest request) { 
  97.         ContentCachingRequestWrapper wrapper = 
  98.                 WebUtils.getNativeRequest(request, ContentCachingRequestWrapper.class); 
  99.         if (wrapper != null) { 
  100.             byte[] buf = wrapper.getContentAsByteArray(); 
  101.             if (buf.length > 0) { 
  102.                 int length = Math.min(buf.length, DEFAULT_MAX_PAYLOAD_LENGTH); 
  103.                 try { 
  104.                     return new String(buf, 0, length, wrapper.getCharacterEncoding()); 
  105.                 } catch (UnsupportedEncodingException ex) { 
  106.                     return "[unknown]"
  107.                 } 
  108.             } 
  109.         } 
  110.         return null
  111.     } 

别忘记配置ResponseBodyAdvice的logging级别为DEBUG。

logstash-logback-encoder

这个是logstash的logback编码器,可以结构化输出httptrace为json。引入:

  1. <dependency> 
  2.     <groupId>net.logstash.logback</groupId> 
  3.     <artifactId>logstash-logback-encoder</artifactId> 
  4.     <version>6.6</version> 
  5. </dependency> 

配置logback的ConsoleAppender为LogstashEncoder:

  1. <configuration> 
  2.     <appender name="jsonConsoleAppender" class="ch.qos.logback.core.ConsoleAppender"
  3.         <encoder class="net.logstash.logback.encoder.LogstashEncoder"/> 
  4.     </appender> 
  5.     <root level=" INFO"
  6.         <appender-ref ref="jsonConsoleAppender"/> 
  7.     </root> 
  8. </configuration> 

然后同样实现一个解析的Filter:

  1. import org.slf4j.Logger; 
  2. import org.slf4j.LoggerFactory; 
  3. import org.slf4j.MDC; 
  4. import org.springframework.core.annotation.Order
  5. import org.springframework.stereotype.Component; 
  6.  
  7. import javax.servlet.*; 
  8. import javax.servlet.http.HttpServletRequest; 
  9. import javax.servlet.http.HttpServletResponse; 
  10. import java.io.IOException; 
  11. import java.util.UUID; 
  12.  
  13. /** 
  14.  * @author felord.cn 
  15.  * @since 1.0.8.RELEASE 
  16.  */ 
  17. @Order(1) 
  18. @Component 
  19. public class MDCFilter implements Filter { 
  20.  
  21.     private final Logger LOGGER = LoggerFactory.getLogger(MDCFilter.class); 
  22.     private final String X_REQUEST_ID = "X-Request-ID"
  23.  
  24.     @Override 
  25.     public void doFilter(ServletRequest request, 
  26.                          ServletResponse response, 
  27.                          FilterChain chain) throws IOException, ServletException { 
  28.         HttpServletRequest req = (HttpServletRequest) request; 
  29.         HttpServletResponse res = (HttpServletResponse) response; 
  30.         try { 
  31.             addXRequestId(req); 
  32.             LOGGER.info("path: {}, method: {}, query {}"
  33.                     req.getRequestURI(), req.getMethod(), req.getQueryString()); 
  34.             res.setHeader(X_REQUEST_ID, MDC.get(X_REQUEST_ID)); 
  35.             chain.doFilter(request, response); 
  36.         } finally { 
  37.             LOGGER.info("statusCode {}, path: {}, method: {}, query {}"
  38.                     res.getStatus(), req.getRequestURI(), req.getMethod(), req.getQueryString()); 
  39.             MDC.clear(); 
  40.         } 
  41.     } 
  42.  
  43.     private void addXRequestId(HttpServletRequest request) { 
  44.         String xRequestId = request.getHeader(X_REQUEST_ID); 
  45.         if (xRequestId == null) { 
  46.             MDC.put(X_REQUEST_ID, UUID.randomUUID().toString()); 
  47.         } else { 
  48.             MDC.put(X_REQUEST_ID, xRequestId); 
  49.         } 
  50.     } 
  51.  

这里解析方式其实还可以更加精细一些。

然后所有的日志都可以结构化为json了:

  1. {"@timestamp":"2021-08-10T23:48:51.322+08:00","@version":"1","message":"statusCode 200, path: /log/get, method: GET, query foo=xxx&bar=ooo","logger_name":"cn.felord.logging.MDCFilter","thread_name":"http-nio-8080-exec-1","level":"INFO","level_value":20000,"X-Request-ID":"7c0db56c-b1f2-4d85-ad9a-7ead67660f96"

总结

今天介绍了不少记录追踪接口请求响应的方法,总有一款适合你。

本文转载自微信公众号「码农小胖哥」,可以通过以下二维码关注。转载本文请联系码农小胖哥公众号。

 

责任编辑:武晓燕 来源: 码农小胖哥
相关推荐

2021-03-01 23:26:41

日志Spring BootAOP

2024-06-04 10:05:48

微服务网关日志

2022-02-08 17:07:54

Spring BooSpring Aop日志记录

2018-11-19 14:29:17

Spring BootXML支持

2010-09-30 14:38:13

2020-10-08 14:52:37

数据网络威胁安全

2022-11-18 08:31:56

Spring日志工具

2009-07-05 21:04:02

2023-03-01 13:54:53

Springpostion​继承

2009-11-27 09:34:38

VS2003命令

2023-09-13 08:56:51

2022-05-12 11:38:26

Java日志Slf4j

2019-04-15 08:32:25

Spring Boot日志门面模式

2020-09-27 11:35:16

Spring BootStarterJava

2024-08-01 09:10:03

2021-03-26 06:01:45

日志MongoDB存储

2023-12-29 18:13:27

Spring日志应用程序

2023-09-19 22:41:30

控制器HTTP

2024-10-12 12:55:26

2021-05-18 07:30:36

开发Spring Boot日志
点赞
收藏

51CTO技术栈公众号