Airflow操作流程
登录
使用账号、密码登录Airflow,登录成功后进到Airflow主页面。
(图1)
本篇记录工作项目中经常使用的Docker和K8S命令,我所运行Docker和K8S的工作环境如下所示,大部分本文使用的命令都可以在Linux K8S和Windows10 K8S环境使用,少数命令存在预期结果不一致的地方,请自行查阅资料解决。
注意,这并不是一篇介绍Docker和K8S是什么的文章,入门课程请自行查阅官方文档学习;如果安装Docker和K8S环境也请自行查阅资料解决。
Airflow pipeline作业流遇到这样一个问题:使用paramiko下载小文件成功,下载大文件出现Server connection dropped
报错。
问题描述
下图可以看到aml_dwn_native_gz
、aml_dwn_deleted_daily
、aml_dwn_premium_daily
三个作业执行成功,但aml_dwn_premium_fullsize_gz
出现报错。
Amazon AWS使用方法:
1.参照官网方法安装AWS-CLI
直接使用“pip install awscli”即可。
2.参照boto3 Documentation安装boto3
直接使用“pip install boto3”安装就行。
3.配置文件
先阅读官网,了解配置文件信息,进入终端:
使用”open -t ~/.aws/credentials”,先设置access token.