Skip to content

博客

[转] Go Slice 秘籍

Golang官方总结: Slice Tricks

由于引入了内建的append的方法, 包container/vector的很多方法都被移除,可以被内建的appendcopy方法代替。

下面是栈vector的操作方法的实现,使用slice实现相关的操作。

a = append(a, b...)
b = make([]T, len(a))
copy(b, a)
//如果a不为空, 等效实现
b = append([]T(nil), a...)
a = append(a[:i], a[j:]...)
a = append(a[:i], a[i + 1]...)
// 或者
a = a[:i + copy(a[i:], a[i + 1])]
a[i] = a[len(a) - 1]
a = a[:len(a) - 1]

注意:如果需要被GC回收的元素是一个指针,或者struct含有指针字段,上面的cut,delete实现可能就导致内存泄漏:一些元素的值会被a一直引用而不会被回收。下面的实现可以解决这个问题:

copy(a[i:], a[j:])
for k,n := len(a)-j+i, len(a); k<n; k++ {
a[k] = nil
}
a = a[:len(a)-j+i]
copy(a[i:], a[i+1:])
a[len(a)-1] = nil
a = a[:len(a)-1]
a[i] =a[len(a)-1]
a[len(a)-1]=nil
a = a[:len(a)-1]
a = append(a[:i], append(make([]T, j), a[i:]...)...)
a = append(a, make([]T, j)...)
a = append(a[:i], append([]T{x}, a[i:]...)...)

注意 : 第二个append使用自己的底层存储创建一个新的slice,然后复制a[:i]中的元素到这个slice中,然后再把这些元素复制回a。新slice的创建和第二次的复制通过另外一种方式避免:

s = append(s, 0)
copy(s[i+1:], s[i:])
s[i] = x
a = append(a[:i], append(b, a[i:]...)...)
x, a = a[len(a)-1], a[:len(a)-1]
a = append(a, x)
x, a := a[0], a[1:]
a = append([]T{x}, a...)

这个技巧利用是: slice共享底层的array和存储容量。所以,在过滤slice时,会重用底层的存储。与此同时,底层存储的数据必然会被修改。

b := a[:0]
for _, x := range a {
if f(x) {
b = append(b, x)
}
}

使用相同的元素(不分配新的对象)替换slice中内容,并将其反序。

for i:= len(a)/2 - 1; i >= 0; i--{
opp := len(a)-1-i
a[i], a[opp] = a[opp], a[i]
}

下面的代码实现同样的效果,只不过使用了两个索引变量

for left, right := 0, len(a)-1; left < right; left, right = left + 1, right -1 {
a[left] , r[right] = a[right], a[left]
}

SSL自签发

openssl genrsa -out ca.key 2048
openssl req -x509 -new -nodes -key ca.key -subj "/CN=xxx.com" -days 5000 -out ca.crt
openssl genrsa -out server.key 2048
#这里的/cn可以是必须添加的 是服务端的域名 或者是etc/hosts中的ip别名
openssl req -new -key server.key -subj "/CN=server" -out server.csr
openssl x509 -req -in server.csr -CA ca.crt -CAkey ca.key -CAcreateserial -out server.crt -days 5000
openssl x509 -noout -text -in ./server.crt
openssl genrsa -out client.key 2048
openssl req -new -key client.key -subj "/CN=client" -out client.csr
echo extendedKeyUsage=clientAuth > extfile.conf
openssl x509 -req -in client.csr -CA ca.crt -CAkey ca.key -CAcreateserial -extfile extfile.conf -out client.crt -days 5000

React.js 使用小结(开篇)

React.js 使用小结----序

生命不止,奋斗不息

最近三个月,参与了一个企业后台管理系统的小项目,采用前后端分离架构。前端实现技术选型时,选择了React.js。因为之前由大量使用WPF,也接触函数式编程(F#)的经历,所以第一次接触到React.js时就感觉非常的亲切。至少相对于AnglarJS而言,让我感觉更加的舒服。由于这个项目之前,没有项目中实际应用React.js的经验(其他队友也没有这方面的经验),工期也比较紧,选择React.js还是由比较大的风险,所以也促使在具体技术方案的选择上,更加务实了。

并且使用Antd Admin ,一个基于reactant-designdvaMock 企业级后台管理系统最佳实践,基于Mock可以实现脱离后端独立开发,基于dva动态加载Model和路由按需加载,浅度响应式设计。

这些技术可以很好的满足这个项目的需求,直达痛点。前后端同时开发、按需加载、响应式设计、前端UI,这些无疑都是我这个项目急需的特性。

后端开发,选定Spring Boot框架,来简化Spring应用的初始搭建以及开发过程;使用Maven进行包管理,来提供Restful API供前端使用。

由于是同时开发,原先预先定义的开发规则是: 后端的开发人员,先设计API接口,并使用Markdown编写API文档。前端根据API文档,使用Mock数据进行同步开发。通过这种方式来加快开发进度。

理想很丰满,现实真的很骨感。开发过程中,问题不断。由于开发流程上缺乏有力的管理和约束,导致出现较大偏差。

首先、后端开发,没有严格先设计API,而是先进行编码实现后,再来编写API文档。其次、部分队友抵触Markdown写文档,导致没有按照预先的格式编写,导致API文档即使写了,也很难阅读。最终的结果是,配合不顺,开发进度也没有预想的快。前端无法有效的沟通,后端开发人员浪费时间写了不可用和不及时的文档。前后端开发进度不一致,前端只能预设API来Mock数据,在最后联调时,出现大量接口不一致需要返工情形。此外,后端开发人员,开发出一个API接口后,没有做必要的测试工作,导致联调时,一个接口要反复几次,后端才能提供一个无误的接口。Bug的蔓延,导致影响不断扩大。

现在开来,还是对一般程序员先设计再编码的开发方式太乐观了,也许Swagger API 是目前现状的一个不错的解决办法。

此外,前后端,都没有引用测试用例,更别谈测试驱动开发(DDD)。大概上面的人,会认为项目太小没有必要,或是耽误开发进度的缘故。虽然测试驱动开发不是银弹,但也的确能解决一部分问题,重要的还是开发觉悟,即使不完全使用测试驱动开发,测试用例还是大有益处的,这个还是得加强影响。

对这个项目中使用的技术,接下来计划做一个完整的梳理和总结,以每周3篇的速度进行。

  • React组件的三种实现方式
  • Fetch 替代Ajax
  • dva 框架
  • dva-loading
  • redux-saga
  • react-redux
  • React stateless component 使用 this.refs
  • HTML5 上传文件
  • React 一维码(react-barcode, JsBarcode )
  • HTML5 打印
  • Chrome调试JS技巧

希望的博客

生命不止,折腾不息;

还是按捺不住爱折腾的心,搭建自己的博客。总感觉在博客园或者CSDN里写博客,少些什么似乎的,总觉得缺点什么。

寻寻觅觅,有许多可选的方案(Hexo,WordPress,Jekyll…),因为喜欢Golang的缘故,所以对Hugo有种特殊的感觉,也没有太多深入的比较,就选择Hugo了。

这就当我的第一篇博客了,不知道未来会有什么奇迹变化,但这是一个很好的开端。以后的博客都从这里开始了!要比 博客园-墨梅 更加勤奋才是!

Supervisor

Supervisor( http://supervisord.org )是用Python开发的一个client/server服务,是Linux/Unix系统下的一个进程管理工具,不支持Windows系统。它可以很方便的监听、启动、停止、重启一个或多个进程。用Supervisor管理的进程,当一个进程意外被杀死,supervisort监听到进程死后,会自动将它重新拉起,很方便的做到进程自动恢复的功能,不再需要自己写shell脚本来控制。

  • supervisord(server 部分):主要负责管理子进程,响应客户端命令以及日志的输出等;
  • supervisorctl(client 部分):命令行客户端,用户可以通过它与不同的 supervisord 进程联系,获取子进程的状态等。
  • Web Server主要可以在界面上管理进程,Web Server其实是通过XML_RPC来实现的,可以向supervisor请求数据,也可以控制supervisor及子进程。配置在[inet_http_server]块里面;
  • XML_RPC接口 提供了与webserver中相同的用于查询和控制进程的http接口;

python版本要求2.4以上, 且不能是python3, supervisor不能运行在任何python3版本上。 可以直接用pip安装:

$ sudo pip install supervisor

如果是Ubuntu系统, 也可以用 apt-get。 也可以使用easy_install安装:

wget --no-check-certificate https://bootstrap.pypa.io/ez_setup.py -O - | sudo python
easy_install supervisor

supervisor安装完成后会生成三个执行程序:supervisortd、supervisorctl、echo_supervisord_conf,分别是supervisor的守护进程服务(用于接收进程管理命令)、客户端(用于和守护进程通信,发送管理进程的指令)、生成初始配置文件程序。

运行supervisord服务的时候,需要指定supervisor配置文件,如果没有显示指定,默认在以下目录查找:

$CWD/supervisord.conf
$CWD/etc/supervisord.conf
/etc/supervisord.conf
/etc/supervisor/supervisord.conf (since Supervisor 3.3.0)
../etc/supervisord.conf (Relative to the executable)
../supervisord.conf (Relative to the executable)

$CWD表示运行supervisord程序的目录。 可以通过运行echo_supervisord_conf程序生成supervisor的初始化配置文件,如下所示:

mkdir /etc/supervisor
echo_supervisord_conf > /etc/supervisor/supervisord.conf

然后可以通过 supervisord 命令启动 supervisord.

$ supervisord

查看supervisor进程信息

$ ps aux | grep super
root 1405 0.0 0.2 60956 7032 ? Ss 10:34 0:01 /usr/bin/python /usr/bin/supervisord -n -c /etc/supervisor/supervisord.conf

此时supervisord已经启动,可以通过supervisorctl进入shell管理界面:

$ supervisorctl
supervisor>status
supervisor>

由于目前没有添加任何需要管理的进程,所以 status 没有输出人和结果。

上面我们已经把 supervisrod 运行起来了,现在可以添加我们要管理的进程的配置文件。可以把所有配置项都写到 supervisord.conf 文件里,但并不推荐这样做,而是通过 include 的方式把不同的程序(组)写到不同的配置文件里。 为了举例,我们新建一个目录 /etc/supervisor/ 用于存放这些配置文件,相应的,把 /etc/supervisord.conf 里 include 部分的的配置修改一下:

[include]
files = /etc/supervisor/*.conf

假设有个用 Python 和 Flask 框架编写的用户中心系统,取名 usercenter,用 gunicorn (http://gunicorn.org/) 做 web 服务器。项目代码位于 /home/leon/projects/usercenter,gunicorn 配置文件为 gunicorn.py,WSGI callable 是 wsgi.py 里的 app 属性。所以直接在命令行启动的方式可能是这样的:

cd /home/tudou/projects/usercenter
gunicorn -c gunicorn.py wsgi:app

现在编写一份配置文件来管理这个进程(需要注意:用 supervisord 管理时,gunicorn 的 daemon 选项需要设置为 False):

[program:usercenter]
directory = /home/leon/projects/usercenter ; 程序的启动目录
command = gunicorn -c gunicorn.py wsgi:app ; 启动命令,可以看出与手动在命令行启动的命令是一样的
autostart = true ; 在 supervisord 启动的时候也自动启动
startsecs = 5 ; 启动 5 秒后没有异常退出,就当作已经正常启动了
autorestart = true ; 程序异常退出后自动重启
startretries = 3 ; 启动失败自动重试次数,默认是 3
user = leon ; 用哪个用户启动
redirect_stderr = true ; 把 stderr 重定向到 stdout,默认 false
stdout_logfile_maxbytes = 20MB ; stdout 日志文件大小,默认 50MB
stdout_logfile_backups = 20 ; stdout 日志文件备份数
; stdout 日志文件,需要注意当指定目录不存在时无法正常启动,所以需要手动创建目录(supervisord 会自动创建日志文件)
stdout_logfile = /data/logs/usercenter_stdout.log
; 可以通过 environment 来添加需要的环境变量,一种常见的用法是修改 PYTHONPATH
; environment=PYTHONPATH=$PYTHONPATH:/path/to/somewhere

一份配置文件至少需要一个 [program:x] 部分的配置,来告诉 supervisord 需要管理那个进程。[program:x] 语法中的 x 表示 program name,会在客户端(supervisorctl 或 web 界面)显示,在 supervisorctl 中通过这个值来对程序进行 start、restart、stop 等操作。

可以使用以下命令更新配置、更新进程、查看状态

# 读取有更新(增加)的配置文件,不会启动新添加的程序
$ supervisorctl reread
# 重启配置文件修改过的程序
$ supervisorctl update
# 查看程序状态
$ supervisorctl status
# 启动程序 App_name
$ supervisorctl start App_name
# 关闭程序 App_name
$ supervisorctl stop App_name
# 重启程序 App_name
$ supervisorctl restart App_name

以上命令也可以在supervisorctl Shell中执行:

$ supervisorctl
supervisor> reread
supervisor> update
supervisor> status
supervisor> start App_name
supervisor> stop App_name
supervisor> restart App_name

除了 supervisorctl 之外,还可以配置 supervisrod 启动 web 管理界面,这个 web 后台使用 Basic Auth 的方式进行身份认证。 除了单个进程的控制,还可以配置 group,进行分组管理。 经常查看日志文件,包括 supervisord 的日志和各个 pragram 的日志文件,程序 crash 或抛出异常的信息一半会输出到 stderr,可以查看相应的日志文件来查找问题。

编辑配置文件/etc/supervisor/supervisord.conf,添加inet_http_server节点,如下:

[inet_http_server]
port = 127.0.0.1:9001
username = username
password = password

其中,port是服务监听端口信息,username是管理员用户名,password是管理员密码。

IOError: [Errno 13] Permission denied: '/var/log/supervisor/supervisord.log'

原因,/var/log/supervisor/supervisord.log没有写权限,赋予权限即可:

sudo chmod -R 777 /var/log/supervisor/supervisord.log
Error: Cannot open an HTTP server: socket.error reported errno.EACCES (13)

配置文件中 /var/run 文件夹,没有授予启动 supervisord 的相应用户的写权限。/var/run 文件夹实际上是链接到 /run,因此我们修改 /run 的权限。

sudo chmod 777 /run

一般情况下,我们可以用 root 用户启动 supervisord 进程,然后在其所管理的进程中,再具体指定需要以那个用户启动这些进程。

'INFO spawnerr: unknown error making dispatchers for 'app_name': EACCES'

修改日志文件的权限

sudo chmod 777 /usr/log/supervisor/supervisor.log
sudo chmod 777 /usr/log/supervisor/youAppName.log