写给想学Python的你:如何用Python解析XBRL - 开课吧
文章推薦指數: 80 %
写给想学Python的你:如何用Python解析XBRL · 1.介绍XBRL. 美国证券交易委员会(SEC)的一个主要作用是确保投资者获得可靠的信息,以便作出决定。
· 1.1XML、 ...
确认离开编辑的内容还未提交,确认离开吗?取消确认投诉建议问题类型已购买如何上课购买后微信添加不上课程服务问题/建议课程内容问题/建议退费相关问题咨询其他问题/建议课程名称购课平台暂无数据具体描述0/500联系方式提交广场首页IT技术新闻资讯职场百科米堆考试培训明椿课程公考编制资格证专本学历IT互联网研究生副业品质生活课高手Club我的课程登录免费注册IT技术PythonPython教程正文写给想学Python的你:如何用Python解析XBRL开课吧开课吧锤锤2021-04-0116:31 1.介绍XBRL
美国证券交易委员会(SEC)的一个主要作用是确保投资者获得可靠的信息,以便作出决定。
为此,美国证券交易委员会要求公开上市的公司提交准确描绘其财务状况的报告。
公司传统上以常规文本提供这些报告,但随着计算机化股票分析的普及,SEC决定采用一种更加结构化、计算机可读的格式。
美国证券交易委员会选择了可扩展商业报告语言(XBRL)作为结构化企业报告的格式。
从2009年4月起,美国证券交易委员会要求企业除了提供文本外,还必须以XBRL格式提供财务报告。
此后,印度和英国也采用XBRL格式进行企业报告。
XBRL基于可扩展标记语言(XML),但使用特殊的标签来标记财务数据。
本节介绍XML和命名空间的基础知识,然后概述XBRL。
1.1XML、Schema和命名空间
介绍XML的一个好方法是将其与HTML进行比较。
HTML文档使用嵌套标签来结构其内容,这些标签的形式为
例如,HTML使用...标签来显示粗体字的文本,如Hithere!。
HTML允许您使用属性来控制标记的行为,例如
我喜欢把XML看作是通用的HTML。
一个XML文档包含与HTML中类似的标签和属性,但XML并没有定义任何特定的标签或属性。
相反,实现者可以通过创建模式来定义自己的标记和属性。
模式是在特殊的XML文档中定义的,格式为XMLSchemaDefinition(XSD),因此,模式文档的后缀为*.xsd而不是*.xml。
一个XML文档可以使用命名空间声明来访问模式的标签和属性。
作为一个例子,下面的声明指定XML文档将访问位于http://www.example.com的模式中定义的标记和属性。
xmlns:ex=http://www.example.com xmlns部分代表XML命名空间,必须存在于每个命名空间声明中。
exis是可选的,作为从模式中获得的标签的前缀。
例如,如果模式定义了一个名为apple的元素,那么XML文档可以使用
1.2XBRL报告和模式 XBRL文档是一个XML文档,它使用XBRL的标签和属性来组织其内容。
这听起来似乎很简单,但一个文档可能需要访问许多不同模式的功能。
例如,不同的国家有不同的报告要求,因此美国的报告与英国的报告需要使用不同的元素集。
同样,不同类型的报告需要不同的模式,因此年度报告与招股说明书将使用不同的标签。
要彻底讨论美国公司年报中的标签/属性,可能会花上一本相当大的书。
在这次讨论中,我的目标是介绍一些美国报告中常见的访问的命名空间。
1.基础XBRL模式--提供XBRL文档的整体结构。
2.美国文件和实体信息(DEI)--设置文件的类型和特征。
3.美国《公认会计原则》----界定了美国报告的必要内容。
4.特定实体的模式----定义了提供报告的实体的特定要素。
你不需要记住这些命名空间的元素,但你越熟悉,就越能从XBRL文档中提取数据。
1.2.1基本XBRL模式 XBRL的基本标签和属性在位于http://www.xbrl.org/2003/instance的模式中提供。
文档通常通过xbrli前缀来访问这些元素,如下文命名空间声明所示。
xlmns:xbrli="http://www.xbrl.org/2003/instance" 在模式定义的众多元素中,xbrli:xbrl尤为重要。
这是因为每份XBRL文档的内容都必须包含在
为了理解基础模式提供的其他标签,你应该熟悉以下术语。
-instance-一个XBRL文档,其根元素是
-事实--报告中的个别细节,如2000万美元。
-概念-与某一事实相关的含义,如销售商品的成本。
-实体----概念所描述的公司或个人。
-情境-将一个实体与一个概念联系起来的数据结构。
许多XBRL文档首先定义了一长串上下文。
每个上下文用一个
每个
以下标记定义了一个标识符为FD2013Q4YTD的上下文。
这在下面的标记中显示出来。
1.2.2 美国文件和实体信息(DEI) 每一份提交给SEC的XBRL文件都需要提供有关其内容的信息,提交者可以通过加入美国文件和实体信息(DEI)模式的元素来满足这一要求。
提交者可以通过纳入美国文件和实体信息(DEI)模式的元素来满足这一要求。
这些元素通常以dei为前缀,文档可以通过以下声明来访问它们。
xlmns:dei="http://xbrl.sec.gov/dei/2014-01-31" 本模式中定义的元素可识别XBRL报告的类型,并提供关于提交报告的实体的信息。
以下标记取自eBay的一份年度报告,演示了如何使用DEI元素。
1.2.3美国公认会计原则(GAAP) 为确保企业在会计报告中使用通用术语,美国财务会计准则委员会(FASB)提供了一套名为《公认会计原则》(GAAP)的标准。
企业可以通过访问FASB的模式定义,在XBRL报告中提供GAAP数据。
GAAP元素通常以us-gaap为前缀。
xmlns:us-gaap="http://fasb.org/us-gaap/2014-01-31" 这个模式提供了数千个与会计相关的元素, 你可以通过搜索相应的us-gaap元素来查找报告中的会计数据。
例如,eBay的2014年年报以下列标号确定其负债总额。
25226000000
us-gaap模式有很多元素,在名称和目的上都很相似。如果你要搜索具体的会计数据,一定不要混淆这些元素。
2.用BeautifulSoup解析XBRL技术 下载XBRL文档后,你可以使用多种方法提取数据。
如果你知道你感兴趣的是什么元素,你可以对文本进行粗暴的搜索,比如us-gaap:Assets。
在另一个极端,python-xbrl库是专门为解析XBRL文档而创建的,但我从来没有让它正常工作过。
本节将介绍如何使用前文中介绍的BeautifulSoup包来解析XBRL。
你不需要学习任何新的类或方法,但重要的是要指定你要进行XML解析。
如果你安装了lxml库(pipinstalllxml),那么你可以用下面的代码创建BeautifulSoup实例。
soup=BeautifulSoup(...,'lxml') 出于某种原因,当我调用find_all方法搜索XBRL标记时,返回的列表总是空的。
但是当我调用find_all方法时,如果没有参数,返回的列表就会包含代表XBRL标签的Tag。
因此,我使用了如下的代码。
soup=BeautifulSoup(xbrl_string,'lxml') tag_list=soup.find_all() fortagintag_list: iftag.name=='us-gaap:liabilities': print('Liabilities:'+tag.text) 一份年度报告可能包含多个
每个时期对应一个
3.完整的EDGAR-XBRL示例 如果你关注了上一篇文章和本文的内容,你应该不难理解如何在Python中访问一家公司的EDGAR报告并解析它们。
为了证明这一点,清单1中的代码在EDGAR中搜索IBM(CIK:0000051143)的2014年年报(10-K),然后解析XBRL以确定股东权益(us-gaap:stockholdersequity)。
清单1:从IBM的年报中读取股东权益(xbrl_reader.py) frombs4importBeautifulSoup importrequests importsys #Accesspage cik='0000051143' type='10-K' dateb='20160101' #ObtainHTMLforsearchpage base_url="https://www.sec.gov/cgi-bin/browse-edgar?action=getcompany&CIK={}&type={}&dateb={}" edgar_resp=requests.get(base_url.format(cik,type,dateb)) edgar_str=edgar_resp.text #Findthedocumentlink doc_link='' soup=BeautifulSoup(edgar_str,'html.parser') table_tag=soup.find('table',class_='tableFile2') rows=table_tag.find_all('tr') forrowinrows: cells=row.find_all('td') iflen(cells)>3: if'2015'incells[3].text: doc_link='https://www.sec.gov'+cells[1].a['href'] #Exitifdocumentlinkcouldn'tbefound ifdoc_link=='': print("Couldn'tfindthedocumentlink") sys.exit() #ObtainHTMLfordocumentpage doc_resp=requests.get(doc_link) doc_str=doc_resp.text #FindtheXBRLlink xbrl_link='' soup=BeautifulSoup(doc_str,'html.parser') table_tag=soup.find('table',class_='tableFile',summary='DataFiles') rows=table_tag.find_all('tr') forrowinrows: cells=row.find_all('td') iflen(cells)>3: if'INS'incells[3].text: xbrl_link='https://www.sec.gov'+cells[2].a['href'] #ObtainXBRLtextfromdocument xbrl_resp=requests.get(xbrl_link) xbrl_str=xbrl_resp.text #Findandprintstockholder'sequity soup=BeautifulSoup(xbrl_str,'lxml') tag_list=soup.find_all() fortagintag_list: iftag.name=='us-gaap:stockholdersequity': print("Stockholder'sequity:"+tag.text) 只有当SEC不改变EDGAR网站的标记时,这段代码才能正常工作。
当然,标记不可能随着时间的推移而保持不变,所以请记住,你可能需要挖掘标记来更新代码。
更多Python教程尽在开课吧Python教程频道有用分享标签:Python教程上一篇一文告诉你python爬虫如何进阶如何就业?如何掌握Python代码生成器?下一篇全部评论快来秀出你的观点登录后可发表观点…发表暂无评论,快来抢沙发!删除后评论无法找回,是否删除?取消确定热门词汇元宇宙人才争夺战开课吧考研肯德基盲盒iPhone15考研教师资格证面试2022年新教师法职场规则碳排放管理师家庭教育指导师健康管理师开课吧学员故事搞定职业规划沟通技巧爆款文案撰写技巧本科毕业生起薪新冠疫苗第四针JavaWeb面试题Vue表白神器AI面试如何用python做爬虫python爬虫技术python爬虫怎么挣钱python基础知识python需要什么基础知识python入门基础知识python基础知识入门0基础学python要多久python语言及其应用python在人工智能上的应用最新文章开课吧严正声明2022-07-0519:19开课吧换课计划2022-06-2317:17职场人怎么提高自己的表达能力?2022-06-2317:17职场中如果遇见不顺心怎么去发泄?2022-06-2317:17你知道职场人怎么才能有效地控制自己的情绪吗?2022-06-2317:17建议职场新人收藏:面试求职者的流程以及技巧有哪些?2022-06-2317:17
延伸文章資訊
- 1写给想学Python的你:如何用Python解析XBRL - 开课吧
写给想学Python的你:如何用Python解析XBRL · 1.介绍XBRL. 美国证券交易委员会(SEC)的一个主要作用是确保投资者获得可靠的信息,以便作出决定。 · 1.1XML、 ...
- 2greedo/python-xbrl: xbrl parser written in Python - GitHub
Installation. The easiest way to install python-xbrl is with pip · Requirements. Python >= 2.6 or...
- 3Parsing XBRL with Python - CodeProject
As of April 2009, the SEC requires that corporations provide financial reports in XBRL format in ...
- 4從XBRL 建立屬於自己的財報資料庫 - cookeyLinux 享樂窩
之後再慢慢將XBRL 的筆記寫下來,也訓練我對於Python 語言的使用,尤其在爬取股價資訊、券商進出明細方面,搭配起來也許更有助於投資。 參考網站. 國立屏 ...
- 5通過Python 讀取XBRL 文件 - Aspose
要繼續閱讀XBRL 文檔,請確保您具有以下先決條件。 基於Microsoft Windows 或Linux 的操作系統。- Python 3.5 或更高版本。- Aspose.Finance 表...