如果你的博客或网站是搭建在付费主机上，如果你是博客或网站的站长，如果你连原始访问日志是什么都不知道，或者对其根本不屑一顾，我只能说你是一个不称职的网站站长，一旦网站出问题，必定是束手无策！相信大家都在自己的网站上安装了网站统计的代码，如Google analytics、量子统计、百度统计、cnzz、51.la等，这些工具可以统计网站的流量，也就是网站**客可以看到的所有页面的访问量，但是这些统计工具都不能统计你主机上资源的原始访问信息，例如某个图片被谁下载了，也不能统计到那些没有添加统计代码的地方，比如后台操作页面。
y/ ]* R* [; `绝大多数收费主机都提供原始访问日志，网站服务器会把每一个访客来访时的一些信息自动记录下来，保存在原始访问日志文件中，如果你的主机不提供日志功能，建议你到期后还是换主机吧。日志中记录了网站上所有资源的访问信息，包括图片、CSS、JS、FLASH、HTML、MP3等所有网页打开过程载入的资源，同时记录了这些资源都被谁访问了、用什么来访问以及访问的结果是什么等等，可以说原始访问日志记录了主机的所有资源使用情况。
" i. ]* t% q9 T3 G, ?% ~& ^& F d: E$ ]9 T/ M* u
分析网站日志有什么作用？
! x* j) ~: t) E! {+ I# [4 C3 r
R1 F- C$ }8 k/ E2 n
4 U4 |) F( t/ Z( Q9 E5 ^; ?1、我们可以比较准确的定位搜索引擎蜘蛛来爬行我们网站的次数，可以屏蔽伪蜘蛛（此类蜘蛛多以采集为主，会增加我们服务器的开销）点此识别Baiduspider真伪 ；
' F2 N$ n* F& N6 {/ i; X2、通过分析网站日志，我们可以准确定位搜索引擎蜘蛛爬行的页面以及时间长短，我们可以依次有针对性的对我们的网站进行微调 ； % s' S0 P. Z" i3 ~! W7 ^
3、http返回状态码，搜索引擎蜘蛛以及用户每访问我们的网站一次，服务器端都会产生类似301，404，200的状态吗，我们可以参照此类信息，对我们出现问题的网站进行简单的诊断，及时处理问题。 5 \& v9 k, n- I+ m; |% Z
; l% `. T# s9 e. q0 b$ M
网站日志文件存放在什么地方？ ( w5 a f5 A1 f6 Y% c1 r% T' s7 k
0 U" Q( ?- W$ \9 P |. s
: I. j( O! T% O% T- ]# c一般的虚拟主机都提供日志文件，但是不同的虚拟主机系统会提供不同的LOG文件存储文件名，笔者使用的是万网的虚拟主机，日志文件存储在wwwlogs文件夹下。 ' i5 i5 c. O6 s; W( M4 {
如何分析网站日志文件
6 b0 C& v3 n5 ]+ g8 m( D% |" }: z* j7 }9 \8 D- D* N1 D7 e, ^0 O' R
" [ v& E- t7 j5 r
网站日志文件里面的记录怎么看？ / t. _+ T9 r: Y; q; Z8 f* r
9 X& o! \8 G) l
' |' f' O1 f5 n* L# e
原始访问日志每一行就是类似以下的记录： 3 E0 v# K' H3 C# b
116.231.220.179 - - [25/Mar/2015:11:21:15 +0800] "GET /blog/article/10.html HTTP/1.1" 200 8671 "[color=black !important]http://www.weiaipin.cn" "Mozilla/5.0 (Windows NT 6.1; WOW64; rv:36.0)"# T" l# @9 f: p& {/ E
) N6 R* w. u: r5 L, c8 ?
, `8 u) d& F' l8 O: l8 w
* a- ?/ c6 u1 l' ?+ I5 |下面我们来说说这一行记录的意思： 5 z5 D, U1 S( e, ?5 B- n' B
f) ^) Y# d( G4 A6 m7 i2 K d& D
116.231.220.179
& \. y7 b. Z/ `; N, i/ `这是访客（也可能是机器人）的IP
) F* U) f6 a b0 w9 G% D# I, o
5 I/ I3 f8 u( W[25/Mar/2015:11:21:15 +0800]
7 x1 F/ D2 `+ P `" u1 A这是访客访问该资源的时间（Date），+0800是该时间所对应的时区，即与格林威治时间相差+8个小时
% }" S2 ^; U, f, w: Q# G6 X( |- J% u, H" t. B( D3 ?7 q7 K' |
"GET /blog/article/10.html HTTP/1.1" 4 m* Y1 h/ V& t& B; V( J7 S& b
请求信息，包括请求方式、所请求的资源以及所使用的协议，该语句的意思就是以GET方式，按照HTTP/1.1协议获取网页/blog/article/10.html，10html为网站上的某个页面。
, p( R5 [: m; t* C0 P% W0 j' |& ?5 V- {, g
200 8671 4 Q. ^# B7 Z; T( K G
200为该请求返回的状态码（Http Code），不同的状态码代表不同的意思，具体请阅读 HTTP 状态代码；8671为此次请求所耗费的流量（Size in Bytes），单位为byte
6 e0 @+ ?& N Z# w& n- r3 c* y. E, Z
"htt p://www. weiaipin .cn/"
" F6 N- a5 O) S为访客来源（Referer）。这一段是告诉我们访客是从哪里来到这一个网页。有可能是你的网站其他页，有可能是来自搜索引擎的搜索页等。通过这条来源信息，你可以揪出盗链者的网页。 0 | O4 \, Q* K9 I9 T) R9 ^) D
, l4 F+ |/ Z0 p" c% a- }3 U
"Mozilla/5.0 (Windows NT 6.1; WOW64; rv:36.0)"
+ F) h* ^! y2 ~0 O4 X w3 U为访客所使用的浏览器类型（Agent），这里记录了用户使用的操作系统、浏览器型号等信息。 $ l! { X0 B& Q& O
) U( u' l& x# x" z* B6 \
如何分析网站日志中的内容？ ' x! U) [2 C5 O3 a/ c
& _" S8 t y @. }" b0 J' c& i9 d
" {& Q, v- N4 h8 r
1、注意那些被频繁访问的资源
4 n) p! F: h! {! u$ W如果在日志中，你发现某个资源（网页、图片和mp3等）被人频繁访问，那你应该注意该资源被用于何处了！如果这些请求的来源（Referer）不是你的网站或者为空，且状态码（Http Code）为200，说明你的这些资源很可能被人盗链了，通过 Referer 你可以查出盗链者的网址，这可能就是你的网站流量暴增的原因，你应该做好防盗链了。
0 k6 H* Q8 s) L5 w9 |
T) R3 |- h& {& Y$ b* E$ [2、注意那些你网站上不存在资源的请求
" ~" F! z! \- \4 n如果某些请求信息不是本站的资源，Http Code不是403就是404，但从名称分析，可能是保存数据库信息的文件，如果这些信息让别人拿走，那么攻击你的网站就轻松多了。发起这些请求的目的无非就是扫描你的网站漏洞，通过漫无目的地扫描下载这些已知的漏洞文件，很可能会发现你的网站某个漏洞哦！通过观察，可以发现，这些请求所使用的Agent差不多都是Mozilla/4.0、Mozilla/5.0或者libwww-perl/等等非常规的浏览器类型，以上我提供的日志格式化工具已经集成了对这些请求的警报功能。我们可以通过禁止这些Agent的访问，来达到防止被扫描的目的，具体方法下面再介绍。
' K6 y7 @6 d/ L: W! Y, q, h' \ @& v. G: Y' A4 N2 B$ l0 P
+ s4 `$ U7 I, W+ J3 G0 O( o! K6 j) x3、观察搜索引擎蜘蛛的来访情况
2 q) t) T! H, F* m, M通过观察日志中的信息，你可以看出你的网站被蜘蛛访问的频率，进而可以看出你的网站是否被搜索引擎青睐，这些都是seo所关心的问题吧。日志格式化工具已经集成了对搜索引擎蜘蛛的提示功能。常见搜索引擎的蜘蛛所使用的Agent列表如下： ' K5 D1 K8 X. P6 v( f
Google蜘蛛 ：Mozilla/5.0 （compatible; Googlebot/2.1; +http://www.google.com/bot.html） 9 F: G$ z @. y, t4 f7 G
Baidu蜘蛛 ：Baiduspider+（+http://www.baidu.com/search/spider.htm）
" p' s- t. m: I& d# D( {Yahoo！蜘蛛 ：Mozilla/5.0 （compatible; Yahoo！ Slurp/3.0; http://help.yahoo.com/help/us/ysearch/slurp） 1 b/ N5 u8 x1 D
Yahoo！中国蜘蛛 ：Mozilla/5.0 （compatible; Yahoo！ Slurp China; http://misc.yahoo.com.cn/help.html） . c5 m7 p8 Q( X4 K3 p" }0 c Y6 S
微软Bing蜘蛛 ：msnbot/2.0b （+http://search.msn.com/msnbot.htm） ) D+ k; u$ v3 C, x$ X
Google Adsense蜘蛛 ：Mediapartners-Google $ C& p" T3 m7 [: u
有道蜘蛛 ：Mozilla/5.0 （compatible; YoudaoBot/1.0; http://www.youdao.com/help/webmaster/spider/） & C8 V) x; H# L' J
Soso搜搜博客蜘蛛 ：Sosoblogspider+（+http://help.soso.com/soso-blog-spider.htm） - r: S6 V& z9 Z5 _! J/ i
Sogou搜狗蜘蛛 ：Sogou web spider/4.0（+http://www.sogou.com/docs/help/webmasters.htm#07） 1 N |% N k/ A
Twiceler爬虫程序 ：Mozilla/5.0 （Twiceler-0.9 http://www.cuil.com/twiceler/robot.html） 1 @" x( d5 r3 y- { c, L5 L+ Z
Google图片搜索蜘蛛 ：Googlebot-Image/1.0
8 J$ C1 T4 R2 G5 j3 Y: y/ E! l俄罗斯Yandex搜索引擎蜘蛛 ：Yandex/1.01.001 （compatible; Win16; I） ' L1 T3 a2 j# ^! j$ T$ R7 q
Alexa蜘蛛 ：ia_archiver （+http://www.alexa.com/site/help/webmasters） 1 S/ h; U1 C9 L
Feedsky蜘蛛 ：Mozilla 5.0 （compatible; Feedsky crawler /1.0）
! Q4 ?1 J) H) ~) ^* {! N5 o% K韩国Yeti蜘蛛：Yeti/1.0 （NHN Corp.; http://help.naver.com/robots/） ! [# f/ X4 P6 H/ p2 F
5 X: `* Y' W, d8 `0 o$ w( l
" O3 R7 h" q. T1 f# I( T7 Y
4、观察访客行为 1 d4 m8 n! H# s7 ]/ a' g; ~+ k
通过查看格式化后的日志，可以查看跟踪某个IP在某个时间段的一系列访问行为，单个IP的访问记录越多，说明你的网站PV高，用户粘性好；如果单个IP的访问记录希希，你应该考虑如何将你的网站内容做得更加吸引人了。通过分析访客的行为，可以为你的网站建设提供有力的参考，哪些内容好，哪些内容不好，确定网站的发展方向；通过分析访客的行为，看看他们都干了些什么事，可以揣测访客的用意，及时揪出恶意用户。
5 }4 C% K' B. k, {/ G9 j2 X7 k7 p! f s% S. ~( j
常用网站日志分析软件有哪些？
! X2 {4 s" C; ~$ r7 w: Z* [1 v* v9 Q c3 m5 J1 @
! ^% f ]% t. S/ i5 w5 {1 q笔者试用过很多网站日志分析工具，常用的并且功能又比较全面的大概有三款：光年SEO日志分析系统、逆火网站日志分析器、Web Log Explorer。
* z9 f4 K9 }' [& y, X2 t
4 I2 n7 Q8 }( _: j7 l. J% b1 }* D/ w* m0 ?; d+ F2 U
原文出处链接：http://www.weiaipin.cn/blog/article/31.html
; t$ X+ }2 c2 k4 ^* V+ m$ {5 U得知互动论坛原创作者：品哥9 z7 g. P, ]# f0 K' q; q, b
日期：2015-07-08 |
提升卡
置顶卡
沉默卡
喧嚣卡
变色卡
千斤顶
显身卡