University Archives web archive collection derivatives

Web archive derivatives of the University Archives collection from Columbia University Libraries. The derivatives were created with the Archives Unleashed Toolkit and Archives Unleashed Cloud. The cul-1914-parquet.tar.gz derivatives are in the Apache Parquet format, which is a columnar storage format. These derivatives are generally small enough to work with on your local machine, and can be easily converted to Pandas DataFrames. See this notebook for examples. Domains .webpages().groupBy(ExtractDomainDF($\"url\").alias(\"url\")).count().sort($\"count\".desc) Produces a DataFrame with the following columns: domain count Web Pages .webpages().select($\"crawl_date\", $\"url\", $\"mime_type_web_server\", $\"mime_type_tika\", RemoveHTMLDF(RemoveHTTPHeaderDF(($\"content\"))).alias(\"content\")) Produces a DataFrame with the following columns: crawl_date url mime_type_web_server mime_type_tika content Web Graph .webgraph() Produces a DataFrame with the following columns: crawl_date src dest anchor Image Links .imageLinks() Produces a DataFrame with the following columns: src image_url   Binary Analysis Images PDFs Presentation program files Spreadsheets Text files Word processor files   The cul-1914-auk.tar.gz derivatives are the standard set of web archive derivatives produced by the Archives Unleashed Cloud. Gephi file, which can be loaded into Gephi. It will have basic characteristics already computed and a basic layout. Raw Network file, which can also be loaded into Gephi. You will have to use that network program to lay it out yourself. Full text file. In it, each website within the web archive collection will have its full text presented on one line, along with information around when it was crawled, the name of the domain, and the full URL of the content. Domains count file. A text file containing the frequency count of domains captured within your web archive. Due to file size restrictions in Scholars Portal Dataverse, each of the derivative files needed to be split into 1G parts. These parts can be joined back together with cat. For example: cat cul-1914-parquet.tar.gz.part* > cul-1914-parquet.tar.gz

哥伦比亚大学图书馆大学档案馆藏的网页档案衍生数据集。该衍生数据集通过Archives Unleashed Toolkit（档案释放工具包）与Archives Unleashed Cloud（档案释放云平台）生成。其中cul-1914-parquet.tar.gz衍生文件采用Apache Parquet格式，这是一种列式存储格式。此类衍生文件普遍体积较小，可在本地设备上直接处理，且可轻松转换为Pandas DataFrames（Pandas数据框），相关操作示例可参考该Notebook文档。

执行代码`.webpages().groupBy(ExtractDomainDF($"url").alias("url")).count().sort($"count".desc)`将生成包含以下字段的DataFrame：domain（域名）、count（计数）。

**网页数据**：执行代码`.webpages().select($"crawl_date", $"url", $"mime_type_web_server", $"mime_type_tika", RemoveHTMLDF(RemoveHTTPHeaderDF($"content")).alias("content"))`将生成包含以下字段的DataFrame：crawl_date（爬取日期）、url（统一资源定位符）、mime_type_web_server（服务器MIME类型）、mime_type_tika（Tika解析MIME类型）、content（内容）。

**网页图谱**：执行代码`.webgraph()`将生成包含以下字段的DataFrame：crawl_date（爬取日期）、src（源节点）、dest（目标节点）。

**图片链接**：执行代码`.imageLinks()`将生成包含以下字段的DataFrame：src（源节点）、image_url（图片URL）。

**二进制分析**：涵盖图片、PDF文档、演示文稿文件、电子表格、文本文件、文字处理文件等类型。

而cul-1914-auk.tar.gz衍生文件为Archives Unleashed Cloud（档案释放云平台）生成的标准网页档案衍生数据集，具体包含：
- Gephi文件：可直接导入Gephi可视化工具，已预先计算基础特征并完成基础布局；
- 原始网络文件：同样可导入Gephi，但需自行使用该网络分析程序完成布局；
- 全文本文件：该文件中，网页档案馆藏内的每个网站的完整文本将单独占一行，同时附带爬取时间、域名及内容完整URL等相关信息；
- 域名计数文件：该文本文件记录了本次网页档案采集范围内各域名的出现频次。

鉴于Scholars Portal Dataverse（学者门户数据仓）的文件大小限制，所有衍生文件均被拆分为1GB大小的分卷文件，可通过`cat`命令合并还原，示例命令如下：`cat cul-1914-parquet.tar.gz.part* > cul-1914-parquet.tar.gz`