云安全:安全即服务
上QQ阅读APP看书,第一时间看更新

1.1.3 网站扫描

前文介绍过的资产扫描和漏洞扫描主要面向的是硬件和软件资产,而网站扫描针对的对象则是以网站应用为主,它相当于对企业的网站业务进行黑盒扫描。当然,如果需要的话,代码扫描可以对网站应用进行代码级的白盒扫描。与资产扫描、漏洞扫描不同的是,网站扫描虽然也属于漏洞扫描的一种,但它关心的是由企业开发人员在编程过程中引发的漏洞,或者是由于业务逻辑设计不合理而产生的漏洞。

1.网站爬虫

由于是针对网站应用进行的扫描,所以利用爬虫遍历网站中的所有页面就变得必不可少了。在网站扫描领域,利用爬虫主要是希望对网站的资产能够进行全面了解和梳理,因为在多数情况下,我们并不需要把网站的页面内容抓取下来,只要能够遍历所有的页面即可。

在网页遍历过程的某些场景下,还需要进行登录扫描,主要是因为在企业网站中,有些页面只有在成功登录后才能访问到。常见的网站登录扫描方式有两种,一种是把在登录页面中需要填写提交的内容记录下来,然后模拟登录过程,另一种是把登录后的Cookie提取出来,用作登录凭证。

有关爬虫技术的相关文档及自动化的工具大家可以自行了解,此处不再赘述。下面提供一个简单的爬虫。


import java.io.IOException;
import java.net.SocketTimeoutException;
import java.net.URI;
import java.net.URISyntaxException;
import java.net.UnknownHostException;
import java.util.ArrayList;

import org.jsoup.HttpStatusException;
import org.jsoup.Jsoup;
import org.jsoup.UnsupportedMimeTypeException;
import org.jsoup.nodes.Document;
import org.jsoup.nodes.Element;
import org.jsoup.select.Elements;

public class Crawler {
    static String initial_uri_string = "http://news.sina.com.cn";
    static String domain = "sina.com.cn";

    public static void main(String[] args) {
        URI newURI;
        URI baseURI = null;
        int index = 0;
        String uriString;

        ArrayList<String> uriStringAL = new ArrayList<String>();
        uriStringAL.add(initial_uri_string);

        do {
            uriString = uriStringAL.get(index++);
            System.out.println("(" + index + "/" + uriStringAL.size() + ") Crawling " + uriString + " ... ");
            try {
                baseURI = new URI(uriString);
                Document doc =  Jsoup.connect(uriString).userAgent("Mozilla/5.0").get();

                Elements es = doc.getElementsByTag("a");
                for (Element e:es) {
                    newURI = baseURI.resolve(e.attr("href"));
                    if (newURI.getHost().endsWith(domain)) {
                        if (!uriStringAL.contains(newURI.toString()) && !newURI.toString().isEmpty()) {
                            uriStringAL.add(newURI.toString());
                        }
                    }
                }
            } catch (SocketTimeoutException e) {
                System.out.println("SocketTimeoutException");
            } catch (UnknownHostException e) {
                System.out.println("UnknownHostException");
            } catch (IllegalArgumentException e) {
                System.out.println("IllegalArgumentException");
            } catch (HttpStatusException e) {
                System.out.println("HttpStatusException");
            } catch (UnsupportedMimeTypeException e) {
                System.out.println("UnsupportedMimeTypeException");
            } catch (IOException e) {
                System.out.println("IOException");
            } catch (URISyntaxException e) {
                System.out.println("URISyntaxException");
            } catch (NullPointerException e) {
                System.out.println("NullPointerException");
            }
        } while (uriStringAL.size() > index);
    }
}

2.Web应用常见威胁

2017年的OWASP Top 10报告(https://owasp.org/www-project-top-ten)中,列举了针对Web应用的十大安全风险,如下所示。有关OWASP的具体内容会在后面的章节中进行详细介绍。

·A1:Injection。

·A2:Broken Authentication。

·A3:Sensitive Data Exposure。

·A4:XML External Entities(XXE)。

·A5:Broken Access Control。

·A6:Security Misconfiguration。

·A7:Cross-Site Scripting(XSS)。

·A8:Insecure Deserialization。

·A9:Using Components with Known Vulnerabilities。

·A10:Insufficient Logging and Monitoring。

3.网站漏洞扫描

如图1-4所示,在网站扫描过程中,首先要利用爬虫技术对企业的Web应用进行一个全面的了解,相当于对网站应用做了一次全面的资产扫描。其次,再对网站的所有页面进行有针对性的漏洞扫描,这里所说的漏洞包括了Web应用中常见的各种漏洞类型,例如SQL Injection、Cross-Site Scripting(XSS)、XML External Entities(XXE)等。网站应用中是否存在漏洞?漏洞在哪里?漏洞能不能被利用?这些问题都是网站扫描需要回答的,也是网站扫描需要解决的问题。

图1-4 网站漏洞扫描过程