大西洋暖流

一切都在不完美中前行


  • 首页

  • 关于

  • 标签

  • 归档

  • 搜索

Django Session介绍

发表于 2020-03-17 | 分类于 编程 | 阅读次数:
字数统计: 28 | 阅读时长 ≈ 1

最近在B站学完一套Django视频课程,整理了一份Django Session思维导图,整理如下:

使用Docker-compose部署一个Airflow项目

发表于 2020-03-11 | 分类于 编程 | 阅读次数:
字数统计: 786 | 阅读时长 ≈ 4

之前一直在本机使用Kubernetes部署Airflow项目,K8S很好,但对于小项目来说,不需要”杀鸡用牛刀”,一般使用Docker-compose就行,这几天将一个Airflow项目改造适配后,使用Docker-compose部署到了腾讯云服务器。

Fork了一份puckel/docker-airflow的Airflow Dockerfile镜像文件,做了很多调整和修改,比如将Debian apt源换成清华的apt源,将PyPI官方PIP源换成豆瓣的PIP源等等,修改完后的Dockerfile放在benbendemo/docker-airflow仓库的develop分支下面。

主要修改内容如下,详细介绍请见develop分支README.md文件。

1
2
3
4
5
6
7
1. Add airflow-common-library-master utility
2. Update the default settings in airflow.cfg
3. Use Tsinghua Debian mirror to replace default Debian apt-get source, see apt-source.list
4. Add an email-templates for airflow to automatically send alert email and success email
5. Use Douban PIP mirror to replace default PIP source, see pip.conf
6. As for Dockerfile, i have added some more Debian apt packages and Python pip packages
7. In script/airflow_create_user.py, there are two ways to create airflow login user when RBAC enabled.Oh forget to inform that it's defaulted to enable RBAC in airflow.cfg
阅读全文 »

清华和豆瓣的pip源哪个好?

发表于 2020-03-08 | 分类于 编程 | 阅读次数:
字数统计: 711 | 阅读时长 ≈ 3

(Photo by Iker Urteaga on Unsplash)

今天使用puckel提供的Airflow Dockerfile镜像文件build镜像时遇到prison这个包提示如下报错。

Docker build过程中,安装flask-appbuilder包时候由于它需要依赖prison包,但pip源里prison包的版本不对,因此报错,镜像打不成功。

我用的是清华的pip源。

阅读全文 »

单节点K8S网络访问超时报错

发表于 2020-03-04 | 分类于 编程 | 阅读次数:
字数统计: 1,081 | 阅读时长 ≈ 6

这几天将一个Python Airflow Project部署到了本机K8S环境,前天一切都很正常。昨天开始出现了这样一个异常情况。

一般情况下,在Airflow里打开Dag的开关后,调度器会自动trigger一次Dag Run,但昨天开始Airflow的调度器自动trigger一直不成功。

(图1)

使用kubectl proxy和kubectl -n kube-system describe secret default| awk '$1=="token:"{print $2}'进入K8S Dashboard,查看容器组(也就是Pod)airflow-79885d4bf5-464g5里shceduler这个容器日志,发现如下报错信息。

阅读全文 »

websocket打造资源监控器

发表于 2020-02-18 | 分类于 编程 | 阅读次数:
字数统计: 590 | 阅读时长 ≈ 2

最近在学习Go语言。

发现很多优秀的软件服务其后台程序都是基于Go来实现,今天补缺websocket这一块内容时看到阮一峰老师文章《WebSocket 教程》提到WebSocketd,点进去一看,又是一个使用Go语言实现的web服务。

我来了兴趣,决定实现它。

在macOS里实现它非常简单,安装Go语言环境后,直接brew install websocketd即可安装成功,参照官方实例开箱即用;但监控Linux CPU/IO/Mem stats的那个example只能在Linux上跑,我想着在Docker Linux上实现。

阅读全文 »
1…345…16
大西洋暖流

大西洋暖流

77 日志
7 分类
155 标签
常用链接
  • 廖雪峰
  • 阮一峰
  • 王垠
  • 酷壳
  • Python之禅
  • Python入坑指南
  • Echo李金
  • Flask资源
  • Python面试题
  • HelloGitHub
© 2016 — 2025 大西洋暖流 | Site words total count: 98.0k

粤ICP备2020075576号