日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當(dāng)前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

java 序列化工具kryo_java jackson avro kryo等几种序列化与反序列化工具的使用

發(fā)布時間:2024/8/23 编程问答 37 豆豆
生活随笔 收集整理的這篇文章主要介紹了 java 序列化工具kryo_java jackson avro kryo等几种序列化与反序列化工具的使用 小編覺得挺不錯的,現(xiàn)在分享給大家,幫大家做個參考.

最近由于工作需要,需要研究常用的集中序列化方式,主要目的是對象序列化后占用空間會大大減少,便于存儲和傳輸,下面是幾種序列化方式的使用demo

1. Java自帶的Serialize

依賴jar包:無

代碼示意:

import java.io.{ByteArrayInputStream, ByteArrayOutputStream, ObjectInputStream, ObjectOutputStream}

object JavaSerialize {

def serialize(obj: Object): Array[Byte] = {

var oos: ObjectOutputStream = null

var baos: ByteArrayOutputStream = null

try {

baos = new ByteArrayOutputStream()

oos = new ObjectOutputStream(baos)

oos.writeObject(obj)

baos.toByteArray()

}catch {

case e: Exception =>

println(e.getLocalizedMessage + e.getStackTraceString)

null

}

}

def deserialize(bytes: Array[Byte]): Object = {

var bais: ByteArrayInputStream = null

try {

bais = new ByteArrayInputStream(bytes)

val ois = new ObjectInputStream(bais)

ois.readObject()

}catch {

case e: Exception =>

println(e.getLocalizedMessage + e.getStackTraceString)

null

}

}

}

2. Jackson序列化方式

依賴jar包:json4s-jackson_2.10-3.2.11.jar、jackson-annotations-2.3.0.jar、jackson-core-2.3.1.jar、jackson-databind-2.3.1.jar(均可在maven上下載)

代碼示意:

import org.json4s.NoTypeHints

import org.json4s.jackson.Serialization

import org.json4s.jackson.Serialization._

object JacksonSerialize {

def serialize[T <: serializable with anyref : manifest t string="{</p">

implicit val formats = Serialization.formats(NoTypeHints)

write(obj)

}

def deserialize[T: Manifest](objStr: String): T = {

implicit val formats = Serialization.formats(NoTypeHints)

read[T](objStr)

}

}

代碼也是非常簡單,好處是序列化后的結(jié)果是以json格式顯示,可以直接閱讀,更人性化,但是缺點是序列化耗時較久,并且序列化后大小也不小

3.?Avro序列化方式

依賴jar包:avro-tools-1.7.7.jar(用于編譯生成類)、avro-1.7.7.jar

第一步:定義數(shù)據(jù)結(jié)構(gòu)scheme文件user.avsc,如下:

{"namespace": "example.avro",

"type": "record",

"name": "User",

"fields": [

{"name": "name", "type": "string"},

{"name": "favorite_number", "type": ["int", "null"]},

{"name": "favorite_color", "type": ["string", "null"]}

]

}

第二步:通過工具生成類

(1)將avro-tools-1.7.7.jar 包和user.avsc 放置在同一個路徑下

(2)執(zhí)行 java -jar avro-tools-1.7.7.jar compile schema user.avsc java.

(3)會在當(dāng)前目錄下,自動生成User.java文件,然后在代碼中引用此類

第三步:代碼示意

import java.io.ByteArrayOutputStream

import example.avro.User

import org.apache.avro.file.{DataFileReader, DataFileWriter}

import org.apache.avro.io.{DecoderFactory, EncoderFactory}

import org.apache.avro.specific.{SpecificDatumReader, SpecificDatumWriter}

object AvroSerialize {

//將序列化的結(jié)果返回為字節(jié)數(shù)組

def serialize(user: User): Array[Byte] ={

val bos = new ByteArrayOutpu

a699

tStream()

val writer = new SpecificDatumWriter[User](User.getClassSchema)

val encoder = EncoderFactory.get().binaryEncoder(bos, null)

writer.write(user, encoder)

encoder.flush()

bos.close()

bos.toByteArray

}

//將序列化后的字節(jié)數(shù)組反序列化為對象

def deserialize(bytes: Array[Byte]): Any = {

val reader = new SpecificDatumReader[User](User.getClassSchema)

val decoder = DecoderFactory.get().binaryDecoder(bytes, null)

var user: User = null

user = reader.read(null, decoder)

user

}

//將序列化的結(jié)果存入到文件

def serialize(user: User, path: String): Unit ={

val userDatumWriter = new SpecificDatumWriter[User](User.getClassSchema)

val dataFileWriter = new DataFileWriter[User](userDatumWriter)

dataFileWriter.create(user.getSchema(), new java.io.File(path))

dataFileWriter.append(user)

dataFileWriter.close()

}

//從文件中反序列化為對象

def deserialize(path: String): List[User] = {

val reader = new SpecificDatumReader[User](User.getClassSchema)

val dataFileReader = new DataFileReader[User](new java.io.File(path), reader)

var users: List[User] = List[User]()

while (dataFileReader.hasNext()) {

users :+= dataFileReader.next()

}

users

}

}這里提供了兩種方式,一種是通過二進制,另一種是通過文件。方法相對上面兩種有點復(fù)雜,在hadoop RPC中使用了這種序列化方式

4. Kryo序列化方式

依賴jar包:kryo-4.0.0.jar、minlog-1.2.jar、objenesis-2.6.jar、commons-codec-1.8.jar

代碼示意:

import java.io.{ByteArrayOutputStream}

import com.esotericsoftware.kryo.{Kryo}

import com.esotericsoftware.kryo.io.{Input, Output}

import com.esotericsoftware.kryo.serializers.JavaSerializer

import org.objenesis.strategy.StdInstantiatorStrategy

object KryoSerialize {

val kryo = new ThreadLocal[Kryo]() {

override def initialValue(): Kryo = {

val kryoInstance = new Kryo()

kryoInstance.setReferences(false)

kryoInstance.setRegistrationRequired(false)

kryoInstance.setInstantiatorStrategy(new StdInstantiatorStrategy())

kryoInstance.register(classOf[Serializable], new JavaSerializer())

kryoInstance

}

}

def serialize[T <: serializable with anyref : manifest t array>

val baos = new ByteArrayOutputStream()

val output = new Output(baos)

output.clear()

try {

kryo.get().writeClassAndObject(output, t)

} catch {

case e: Exception =>

e.printStackTrace()

} finally {

}

output.toBytes

}

def deserialize[T <: serializable with anyref : manifest array t="{</p">

val input = new Input()

try {

input.setBuffer(bytes)

kryo.get().readClassAndObject(input).asInstanceOf[T]

} finally {

}

}

}這種方式經(jīng)過我本地測試,速度是最快的,關(guān)鍵是做好對kryo對象的復(fù)用,因為大量創(chuàng)建會非常耗時,在這里要處理好多線程情況下對kryo對象的使用,spark中也會使用到kryo

其實還有其他的序列化方式,比如protobuf、thrify,操作上也有一定復(fù)雜性,由于環(huán)境問題暫時未搞定,搞定了再發(fā)出來。

創(chuàng)作挑戰(zhàn)賽新人創(chuàng)作獎勵來咯,堅持創(chuàng)作打卡瓜分現(xiàn)金大獎

總結(jié)

以上是生活随笔為你收集整理的java 序列化工具kryo_java jackson avro kryo等几种序列化与反序列化工具的使用的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯,歡迎將生活随笔推薦給好友。